WEBVTT

00:00.000 --> 00:05.860
Wczoraj wieczorem stałam nad szufladą z lekami i robiłam zdjęcie pudełka telefonem.

00:06.720 --> 00:09.220
I w pewnym momencie złapałam się na takiej myśli.

00:10.100 --> 00:15.380
A skąd ja właściwie wiem, że to co mi się za chwilę wyświetli jest prawdą?

00:17.500 --> 00:22.120
Cześć, nazywam się Tomasz Szuster i jestem twórcą aplikacji mojApteczka.

00:22.120 --> 00:26.980
A to pytanie Izy jest chyba najuczciwszym pytaniem, jakie można zadać komuś,

00:27.340 --> 00:29.820
kto buduje coś ze sztuczną inteligencją w środku.

00:30.760 --> 00:32.880
Bo słuchaj, ja to widzę z drugiej strony.

00:33.560 --> 00:37.180
Wszyscy teraz mówią, nasza aplikacja ma sztuczną inteligencję.

00:37.640 --> 00:40.020
Jakby to samo w sobie było argumentem.

00:40.500 --> 00:41.100
Jest.

00:41.620 --> 00:43.100
No właśnie nie jest.

00:43.840 --> 00:46.760
Dla mnie to jest raczej nowy powód do nieufności.

00:47.360 --> 00:50.440
Bo jak człowiek się pomyli, to wiem do kogo mam pretensje.

00:50.440 --> 00:52.020
A jak pomyli się model?

00:52.760 --> 00:54.320
To jest dokładnie temat na dziś.

00:54.800 --> 00:59.700
Nie czy sztuczna inteligencja się myli, bo się myli, tylko co się dzieje potem.

01:00.000 --> 01:01.220
Kto ma ostatnie słowo?

01:02.560 --> 01:03.760
To zacznijmy od początku.

01:04.260 --> 01:05.480
Robię zdjęcie pudełka.

01:05.960 --> 01:06.600
Co się dzieje?

01:07.560 --> 01:11.160
Zdjęcie idzie do modelu, który potrafi patrzeć na obrazek i czytać.

01:11.920 --> 01:16.000
Wyciąga z niego nazwę, dawkę, termin ważności i kod kreskowy.

01:16.640 --> 01:18.640
To jest ten moment, który wygląda magicznie.

01:18.640 --> 01:22.520
I tu bym się zatrzymała, gdybym była marketingowcem.

01:23.060 --> 01:24.300
Większość się zatrzymuje.

01:24.760 --> 01:26.780
Ale to jest dopiero pierwszy krok z trzech.

01:26.960 --> 01:28.660
I szczerze, najmniej ważny.

01:29.380 --> 01:30.400
Czemu najmniej ważny?

01:31.060 --> 01:32.240
Bo model niczego nie wie.

01:32.760 --> 01:34.800
On rozpoznaje kształty liter na zdjęciu.

01:35.180 --> 01:40.280
Więc drugi krok jest taki, że biorę ten kod kreskowy i sprawdzam go w osobnej bazie leków.

01:40.760 --> 01:46.140
I stamtąd dociągam producenta, postać leku, grupę ATC i odnośniki do ulotek.

01:46.140 --> 01:48.840
Czyli to nie model mi mówi, co to za lek?

01:49.620 --> 01:53.340
Nie. Model mówi, na tym pudełku chyba jest napisane to i to.

01:54.060 --> 01:55.960
Rejestr mówi, co to faktycznie za lek.

01:56.460 --> 02:01.120
To są dwie zupełnie różne rzeczy i to rozróżnienie jest fundamentem całej aplikacji.

02:02.140 --> 02:03.600
Dobra. A trzeci krok?

02:04.360 --> 02:05.560
Trzeci krok to ty.

02:06.300 --> 02:06.560
Ja?

02:06.680 --> 02:08.000
Nic się nie zapisuje samo.

02:08.320 --> 02:11.360
Wynik trafia na ekran, na którym wszystko jest już wypełnione.

02:11.720 --> 02:13.720
Ale wszystko da się poprawić.

02:13.720 --> 02:16.980
I dopóki nie klikniesz zapisz, w aptetce nie ma nic.

02:17.660 --> 02:20.560
Czyli aplikacja mi nie mówi, dodałam ci lek.

02:21.220 --> 02:21.620
Nigdy.

02:22.240 --> 02:24.540
Wynik trafia na ekran do sprawdzenia i poprawienia.

02:24.880 --> 02:26.220
Decyzja jest po twojej stronie.

02:26.920 --> 02:31.420
I jeszcze jedna rzecz, która brzmi nudno, a jest według mnie najważniejsza w całym skanowaniu.

02:31.920 --> 02:35.200
Aplikacja nie potrafi stworzyć leku, którego nie ma w rejestrze.

02:36.000 --> 02:36.640
Zaraz, zaraz.

02:37.020 --> 02:39.720
To znaczy, że jeśli model coś sobie wymyśli...

02:40.320 --> 02:41.620
To nie ma gdzie tego zapisać.

02:41.620 --> 02:45.540
Bez dopasowania do rejestru aplikacja nie doda tego jako leku.

02:46.400 --> 02:46.800
Okej.

02:47.180 --> 02:48.600
To akurat brzmi uczciwie.

02:49.460 --> 02:53.860
Swoją drogą, wszystko o czym tu mówimy to faktycznie funkcje w aplikacji mojApteczka.

02:54.280 --> 02:55.100
To nie jest reklama.

02:55.380 --> 02:56.580
Kontekst dla jasności.

02:57.420 --> 03:00.140
To teraz pytanie, które mnie naprawdę męczy.

03:00.680 --> 03:03.640
Bo to wszystko co mówisz to jest inżynieria.

03:04.140 --> 03:06.000
A ja pytam o odpowiedzialność.

03:06.440 --> 03:06.860
Prawnie.

03:07.440 --> 03:10.480
Jak Apka pokaże mi coś nie tak, to co?

03:10.480 --> 03:14.580
To jest pytanie, na które musiałem odpowiedzieć zanim cokolwiek napisałem.

03:15.040 --> 03:16.300
I odpowiedź jest w aplikacji.

03:16.500 --> 03:17.000
Dosłownie.

03:17.200 --> 03:17.600
Tekstem.

03:18.260 --> 03:18.780
To znaczy?

03:19.400 --> 03:22.500
Jak wchodzisz w interakcję między lekami, to na dole jest stanie.

03:23.200 --> 03:31.040
mojApteczka nie jest wyrobem medycznym w rozumieniu rozporządzenia MDR 2017 łamane przez 745.

03:31.860 --> 03:34.780
I to jest dobra wiadomość czy zła?

03:35.380 --> 03:36.180
To jest wybór.

03:36.400 --> 03:36.880
Świadomy.

03:36.880 --> 03:38.380
W praktyce jest tak.

03:38.840 --> 03:45.020
Jeśli produkt deklaruje, że stawia diagnozę albo prowadzi leczenie, wchodzi w zupełnie inny reżim regulacyjny.

03:45.340 --> 03:48.040
Certyfikacja, jednostka notyfikowana, nadzór.

03:48.380 --> 03:50.760
I nie ma znaczenia, czy to sprzęt, czy aplikacja.

03:51.500 --> 03:52.320
Czyli po ludzku.

03:52.880 --> 03:57.700
Mogłeś iść w stronę, aplikacja Ci powie, czy ten lek jest dla Ciebie dobry.

03:57.700 --> 03:58.720
Mogłem spróbować.

03:59.600 --> 04:00.460
I nie poszedłem.

04:00.820 --> 04:08.320
Bo wtedy musiałbym obiecać coś, czego uczciwie nie mogę zagwarantować przy każdym leku, każdej osobie i każdej chorobie.

04:08.960 --> 04:11.180
Werdykt należy do lekarza i farmaceuty.

04:11.620 --> 04:13.800
Ja mogę być pamięcią niewyroczną.

04:13.800 --> 04:16.380
Wiesz, co jest w tym dziwnego?

04:17.200 --> 04:19.740
Że to brzmi jak przyznanie się do słabości.

04:20.420 --> 04:22.180
Brzmi, a jest odwrotnie.

04:22.820 --> 04:24.380
Łatwo wpaść w tę drugą pułapkę.

04:24.720 --> 04:27.880
Pokazać pewność, której się nie ma, bo tak lepiej wygląda.

04:28.480 --> 04:30.920
Ja wolę pokazać granicę i za nią stać.

04:31.560 --> 04:38.500
Dobra, ale skoro nie jesteś wyrocznią, to skąd ja mam wiedzieć, komu ufać w tym, co pokazujesz?

04:39.120 --> 04:41.020
Stąd, że mówię skąd to wziąłem.

04:41.020 --> 04:44.320
Przy informacjach o bezpieczeństwie leku jest wypisane źródło.

04:44.920 --> 04:47.860
Charakterystyka produktu leczniczego z Urzędu Rejestracji.

04:48.480 --> 04:50.860
Lactmed z amerykańskich instytutów zdrowia.

04:51.320 --> 04:54.240
Open FDA oraz Europejska Agencja Leków.

04:54.840 --> 04:55.640
Cztery źródła.

04:56.200 --> 04:57.180
Wymienione z nazwy.

04:57.780 --> 04:58.320
Z nazwy.

04:58.680 --> 05:03.000
A przy interakcjach jest podpisana konkretna baza naukowa i rok publikacji.

05:03.580 --> 05:07.220
Bo nasz algorytm wykrył, to jest zdanie, które nic nie znaczy.

05:07.220 --> 05:08.800
To pochodzi stąd.

05:09.120 --> 05:09.800
Sprawdź sam.

05:10.260 --> 05:11.000
To znaczy coś.

05:11.020 --> 05:14.380
Ale zaraz, bo tu jest coś, czego nie rozumiem.

05:15.080 --> 05:17.820
Ty pokazujesz możliwe interakcje między lekami.

05:18.300 --> 05:20.760
To już brzmi jak coś, co robi farmaceuta.

05:21.460 --> 05:25.060
I tu jest bardzo cienka granica, więc powiem dokładnie, co się dzieje.

05:25.720 --> 05:27.380
Biorę leki, które masz w apteczce.

05:27.740 --> 05:29.500
Układam z nich wszystkie możliwe pary.

05:30.060 --> 05:32.400
I każdą parę sprawdzam w bazie naukowej.

05:32.920 --> 05:33.620
Jak dużej?

05:34.280 --> 05:36.640
Ponad 300 tysięcy opisanych interakcji.

05:36.640 --> 05:42.320
A że taką parę trzeba zapisać w obu kierunkach, to daje ponad milion 300 tysięcy wpisów.

05:42.320 --> 05:44.560
I to wszystko siedzi w telefonie?

05:44.960 --> 05:45.440
Nie.

05:45.680 --> 05:47.980
To siedzi po stronie serwera i jest odpytywane.

05:48.420 --> 05:50.540
Ale ważniejsze jest to, czego tam nie ma.

05:51.040 --> 05:51.840
Tam nie ma Ciebie.

05:52.060 --> 05:53.340
Jak to nie ma mnie?

05:53.560 --> 05:58.900
Ta baza opisuje możliwą interakcję między substancją A i substancją B oraz jej ciężkość.

05:59.760 --> 06:07.680
Nie wie, ile masz lat, na co chorujesz, co Ci już odstawiono i czy lekarz świadomie zdecydował, że w Twoim przypadku to połączenie jest w porządku.

06:07.680 --> 06:10.880
Czyli aplikacja może mnie wystraszyć bez powodu?

06:11.380 --> 06:18.820
Może. I dlatego to jest posortowane według wagi, opisane skąd pochodzi i podpisane zdaniem, że to nie jest porada medyczna.

06:19.380 --> 06:22.000
To ma być lista pytań do farmaceuty, a nie wyrok.

06:22.920 --> 06:29.220
Dobra. Czyli ja przychodzę do apteki i mówię, aplikacja pokazała mi te dwa. Niech Pan zerknie.

06:29.780 --> 06:32.300
To jest dokładnie ten scenariusz, dla którego to zbudowałem.

06:32.300 --> 06:37.300
Nie aplikacja powiedziała, że nie mogę, tylko aplikacja zwróciła mi na coś uwagę.

06:37.700 --> 06:39.740
Proszę o zdanie kogoś, kto się na tym zna.

06:40.540 --> 06:44.560
A jak dane są słabe? Bo przecież nie o każdym leku wiadomo tyle samo.

06:45.220 --> 06:48.000
To jest dobre pytanie i mam na niej niewygodną odpowiedź.

06:48.580 --> 06:52.840
Przy mniej więcej 61% produktów pewność danych jest niska.

06:53.680 --> 06:56.940
61%? To ponad połowa.

06:57.580 --> 06:58.300
Ponad połowa.

06:58.300 --> 07:03.860
To wynika z tego, że polskie charakterystyki leków są pisane bardzo ostrożnie i słusznie.

07:04.460 --> 07:06.060
Ale dla mnie to jest problem projektowy.

07:06.440 --> 07:09.140
Co zrobić z informacją, co do której sam nie mam pewności?

07:09.880 --> 07:10.560
I co robisz?

07:11.240 --> 07:11.900
Wyciszam ją.

07:12.580 --> 07:15.300
Tam, gdzie pewność jest niska, ikonka jest szara i bez koloru.

07:16.240 --> 07:18.300
Pełny kolor dostają tylko te lepiej udokumentowane.

07:19.700 --> 07:22.660
Wycisza? To brzmi jak ukrywanie.

07:23.340 --> 07:25.160
Wygląda podobnie, ale jest odwrotnie.

07:25.160 --> 07:30.660
Jak pokażę mocne ostrzeżenie tam, gdzie dane są słabe, to nauczę cię ignorować ostrzeżenia.

07:31.340 --> 07:33.540
A wtedy przegapisz to lepiej udokumentowane.

07:33.860 --> 07:36.260
Takie, z którym naprawdę warto pójść do farmaceuty.

07:36.880 --> 07:37.240
Aha.

07:38.120 --> 07:42.120
Mieliśmy dokładnie ten problem z komunikatem o tym, że informacje są poglądowe.

07:42.760 --> 07:44.020
Był na każdej karcie leku.

07:44.340 --> 07:46.380
Pełny, z całą listą źródeł.

07:46.660 --> 07:50.000
Przy liście 8 leków to jest 8 razy ten sam blok tekstu.

07:50.400 --> 07:51.980
Czyli przestaje się go czytać.

07:51.980 --> 07:54.760
Dokładnie. Więc zostawiłem widoczne jedno zdanie.

07:55.220 --> 07:58.580
Informacje wyłącznie poglądowe nie stanowią porady medycznej.

07:59.040 --> 08:01.220
A całą listę źródeł schowałem pod ikonką.

08:01.800 --> 08:05.660
Jest zawsze dostępna jednym kliknięciem, ale nie zagłusza sama siebie.

08:06.140 --> 08:08.580
To jest ciekawe, bo to nie jest decyzja prawna.

08:08.900 --> 08:12.260
To jest decyzja o tym, żeby to naprawdę działało.

08:12.600 --> 08:16.460
I powiem Ci jeszcze jedną rzecz, której większość twórców aplikacji by nie powiedziała.

08:17.140 --> 08:19.700
To znaczenia bezpieczeństwa są domyślnie wyłączone.

08:19.700 --> 08:22.080
Musisz je sobie włączyć w ustawieniach.

08:22.360 --> 08:23.340
Czekaj, czemu?

08:23.920 --> 08:27.020
Przecież to brzmi jak coś, co powinno być od razu.

08:27.380 --> 08:31.120
Bo to jest informacja, która ma sens wtedy, kiedy ktoś świadomie po nią sięga.

08:31.680 --> 08:34.340
Jak wrzuca ją domyślnie każdemu na każdą kartę leku,

08:34.820 --> 08:36.140
to wracamy do punktu wyjścia.

08:36.540 --> 08:38.040
Szum, który się przestaje czytać.

08:38.780 --> 08:41.240
Wolę, żeby człowiek raz zdecydował, że tego chce.

08:41.700 --> 08:46.680
Czyli mniej ostrzeżeń, ale takich, które ktoś naprawdę przeczyta.

08:46.680 --> 08:50.720
Taka jest stawka. I szczerze, nie wiem, czy to jest ostateczna odpowiedź.

08:51.120 --> 08:52.520
Ale wiem, czemu tak jest teraz.

08:52.860 --> 08:53.920
I to jest cała różnica.

08:54.740 --> 08:56.660
Zgodność z przepisami można odbębnić.

08:56.980 --> 09:00.300
Można wkleić regulamin na 300 stron i technicznie mieć rację.

09:00.940 --> 09:02.220
Mnie interesuje coś innego.

09:02.800 --> 09:05.720
Żeby człowiek, który stoi nad szufladą o 10 wieczorem,

09:06.220 --> 09:08.360
wiedział, czego ta aplikacja nie wie.

09:08.740 --> 09:10.080
Powiedz mi jeszcze jedną rzecz.

09:10.580 --> 09:14.040
Bo skanowanie recepty to już zupełnie inna sprawa.

09:14.040 --> 09:17.200
Tam są dane, których bym nikomu nie dała.

09:17.540 --> 09:20.100
I dlatego ta funkcja działa inaczej niż skam pudełka.

09:20.780 --> 09:23.420
Całe odczytywanie recepty dzieje się na Twoim telefonie.

09:23.900 --> 09:25.700
Zdjęcie recepty nigdzie nie leci.

09:26.160 --> 09:27.660
Nigdzie to znaczy gdzie?

09:28.220 --> 09:28.580
Nigdzie.

09:29.140 --> 09:31.600
Nie na mój serwer, nie do żadnego modelu w chmurze.

09:32.000 --> 09:32.960
Zostaje na urządzeniu.

09:33.640 --> 09:35.960
Do wyszukania idzie wyłącznie sama nazwa leku.

09:36.360 --> 09:40.120
Dokładnie tak samo, jakbyś wpisała ją ręcznie w wyszukiwarkę w aplikacji.

09:40.460 --> 09:43.040
Czyli numery, dane pacjenta, całe to...

09:43.040 --> 09:44.660
Zostaje u Ciebie.

09:45.000 --> 09:47.020
I znowu, nic nie dodaje się samo.

09:47.580 --> 09:50.000
Każdą pozycję z recepty potwierdzasz osobno.

09:50.200 --> 09:57.340
Wiesz co, ja mam wrażenie, że my w tym odcinku cały czas mówimy jedno zdanie na różne sposoby.

09:58.040 --> 09:58.760
Jakie?

09:59.440 --> 10:04.940
Że sztuczna inteligencja może zaproponować, ale nie może zdecydować.

10:04.940 --> 10:06.280
Tak.

10:06.280 --> 10:10.980
I gdybym miał zostawić słuchaczom jedną rzecz z tego odcinka, to właśnie to.

10:11.720 --> 10:14.240
Nie pytaj, czy aplikacja ma sztuczną inteligencję.

10:14.600 --> 10:18.080
Zapytaj, co się dzieje, kiedy ta sztuczna inteligencja się pomyli.

10:18.700 --> 10:20.960
Czy jest ekran, na którym możesz ją poprawić?

10:21.480 --> 10:22.960
Czy widzisz, skąd są dane?

10:23.440 --> 10:26.520
Czy ktoś napisał wprost, czego to narzędzie nie robi?

10:27.240 --> 10:29.580
A jeśli nie ma żadnej z tych rzeczy?

10:29.580 --> 10:35.640
To znaczy, że masz mniej informacji niż potrzebujesz, żeby ocenić na ile możesz temu zaufać.

10:36.100 --> 10:40.500
A to jest Twoja decyzja i powinnaś ją podejmować z otwartymi oczami.

10:41.520 --> 10:43.260
Dobra, ja dorzucę swoje.

10:43.700 --> 10:45.980
Z perspektywy zupełnie nietechnicznej.

10:46.860 --> 10:53.380
Leon ma 9 lat i już rozumie, że jak coś wyskoczy na ekranie, to nie znaczy, że to prawda.

10:54.280 --> 10:56.800
Basia ma 5 i jeszcze nie rozumie.

10:56.800 --> 11:00.200
I szczerze, połowa dorosłych też nie.

11:01.100 --> 11:04.600
Dlatego to zdanie musi być w aplikacji, a nie w regulaminie.

11:05.440 --> 11:10.420
I dlatego dalej, jak mam wątpliwość co do leku, idę z pudełkiem do apteki.

11:11.320 --> 11:12.040
I tak ma być.

11:12.580 --> 11:16.680
Aplikacja ma sprawić, żebyś wiedziała, co masz w domu i o co pytać.

11:17.300 --> 11:19.140
Odpowiedź należy do farmaceuty.

11:20.420 --> 11:24.620
Jeśli chcesz spróbować, link do aplikacji mojApteczka w opisie odcinka.

11:24.620 --> 11:28.880
Aplikacja jest darmowa, a twoja apteczka jest dostępna także offline.

11:29.480 --> 11:34.580
A jeśli odcinek ci się podobał, podziel się nim z kimś, dla kogo apteczka w domu to chaos.

11:35.420 --> 11:37.900
I jeszcze jedna rzecz, zanim się rozstaniemy.

11:38.560 --> 11:41.320
Ten podcast jest stworzony z udziałem sztucznej inteligencji.

11:41.760 --> 11:49.780
Dialog napisałem ja, ale głosy, które słyszycie, mój i Izy, to klony AI wygenerowane na podstawie naszych prawdziwych próbek.

11:49.780 --> 11:56.000
Mówimy o tym wprost, bo uważamy, że to powinno być standardem w każdym podcaście robionym tą metodą.

11:56.760 --> 11:59.700
Pełna informacja w opisie showu i każdego odcinka.

12:00.380 --> 12:06.840
Czyli w odcinku o tym, że trzeba mówić skąd są dane, sami mówimy skąd jest nasz głos.

12:07.320 --> 12:09.360
Byłoby dziwnie, gdybyśmy nie powiedzieli.

12:09.820 --> 12:10.540
Do usłyszenia.

12:10.780 --> 12:12.080
Do usłyszenia.