[JamesJoyce]

#programista15k #programowanie #it #sztucznainteligencja #ai #robotyka

Pamiętacie Mireczku, że Asimov napisał prawa dla robotów żeby chroniły ludzi. Nikt jednak nie pomyślał żeby napisać prawa dla ludzi żeby chronili się przed robotami.
Susam Pal wziął się za to w ciekawym artykule:

https://susam.net/inverse-laws-of-robotics.html

Trzy zasady, żadnych rewelacji, ale brzmi sensownie.

Nie przypisuj AI ludzkich cech. Chatbot brzmi empatycznie bo tak go zaprojektowano, nie dlatego że cokolwiek czuje lub rozumie. To model językowy, czyli bardzo zaawansowana statystyka na tekście. Kiedy zaczniesz traktować go jak rozmówcę z intencjami, twój osąd zaczyna się rozjeżdżać.

Weryfikuj zanim zaufasz. Zalecenie ministerstwa zdrowia przeszło przez ekspertów i recenzje. Odpowiedź GPT na to samo pytanie wygenerowała się stochastycznie w twojej sesji i nikt jej nie sprawdził. Ciężar weryfikacji zawsze leży po twojej stronie, model tego za ciebie nie zrobi.

Nie zrzucaj odpowiedzialności. “AI mi powiedziała” nie było i nie będzie żadnym wytłumaczeniem. Narzędzie nie ponosi konsekwencji swojego użycia, ty je ponosisz. Zawsze.

Cały problem nie leży w samej technologii tylko w tym co ona robi z naszymi nawykami myślenia. Przekonująco brzmiący system uczy nas stopniowo żeby mniej kwestionować i mniej sprawdzać. I tak Pan Bóg nie nakazał, bo to złe!