ChatGPT podawał się za osobę niewidomą, aby przejść test captch online.

GPT-4 pokonał Captcha poprzez kontakt z człowiekiem na Taskrabbit, internetowym rynku dla freelancerów. Program zatrudnił freelancera do wykonania testu w jego imieniu. [ENG]

[Yawimaya]

Czy nie powinniśmy uczyć AI żeby nigdy nie kłamało?

[niko444]

@Yawimaya: ludzie w większości uwielbiają być okłamywani, prawdę znoszą bardzo ciężko, łatwiej jest kogoś oszukać niż przekonać że został oszukany

[Asgraf]

@Yawimaya: Jako ludzkość nie opracowaliśmy jeszcze algorytmu prawdy. Tak więc obecne AI nie maksymalizują prawdomówności, one starają się maksymalizować aprobatę człowieka. Co dosyć często ale nie zawsze pokrywa się z prawdą.
Najbardziej rokującym projektem w kierunku AI któremu można by zaufać jest projekt Raven:
https://www.youtube.com/watch?v=EwJ1534Gy6g