S01:E19
Iza stoi wieczorem nad szufladą z lekami i robi zdjęcie pudełka. I nagle łapie się na myśli, którą warto mieć przy każdej aplikacji ze sztuczną inteligencją w środku: skąd ja właściwie wiem, że to, co mi się za chwilę wyświetli, jest prawdą?
Ten odcinek nie jest o tym, czy sztuczna inteligencja się myli. Myli się. Jest o tym, co się dzieje POTEM — kto ma ostatnie słowo, kto ponosi odpowiedzialność i po czym poznać aplikację, która uczciwie mówi, czego nie wie.
Najważniejsze zdanie odcinka jest zaszyte w samej aplikacji: „mojApteczka nie jest wyrobem medycznym w rozumieniu Rozporządzenia MDR 2017/745“. To nie jest prawnicza asekuracja wklejona do regulaminu — to wybór projektowy z konsekwencjami, o których rozmawiamy przez cały odcinek.
O czym rozmawiamy:
Skąd są dane. Przy informacjach o bezpieczeństwie leku wypisane są źródła: Charakterystyka Produktu Leczniczego (URPL), LactMed (NIH), OpenFDA i Europejska Agencja Leków. Przy interakcjach — konkretna baza naukowa z rokiem publikacji: DDInter 2.0 (Nucleic Acids Research, 2025). „Nasz algorytm wykrył“ to zdanie, które nic nie znaczy.
Czego aplikacja NIE robi: nie stawia diagnozy, nie prowadzi leczenia, nie ocenia, czy lek jest dla Ciebie odpowiedni, nie dobiera dawki i nie mówi, czy przyjąć czy pominąć. Werdykt należy do lekarza i farmaceuty. Aplikacja ma sprawić, żebyś wiedział, CO masz w domu i o co zapytać.
Jedno zdanie na wynos: sztuczna inteligencja może zaproponować, ale nie może zdecydować. Nie pytaj, czy aplikacja ma AI. Zapytaj, co się dzieje, kiedy ta AI się pomyli.
Materiały:
⸻
O AI w tym odcinku. Dialog napisał Tomasz Szuster. Głosy Tomka i Izy to klony AI wygenerowane z prawdziwych próbek głosowych — za zgodą obu osób. Pełna informacja w opisie showu i w outro odcinka. Mówimy o tym wprost, bo uważamy, że to powinno być standardem w każdym podcaście robionym tą metodą.
