[nad__czlowiek]

#programowanie #programista15k #programista25k #ai #chatgpt #openai

As a decade+ automation engineer and AI specialist I totally agree 100% Only that I too was blindsided for a bit. I thought "AI engineers suck at automation"(they do), what I didn't account for was the dramatic and rapid pivot in both the open source community and big corp. They knocked at least 8 years of the timeline.

[JamesJoyce]

@nad__czlowiek: czym jest twoim zdaniem AGI? I czym różni się od Superinteligencji? Czy np. system nlp połączony z systemem computer vision połączony z systemem wnioskowania jak gofai, połączony z x,y,z w taki sposób, że pokrywa wszystkie możliwe zastosowania i działa lepiej od człowieka w każdej z tych dziedzin to AGI? Czy potrzebna jest świadomość?

Przykładowo, czy agent oparty na langchainie lub autogenie, korzystający z api różnych modeli do różnych zastosowań to

[zino]

Czy potrzebna jest świadomość?

@JamesJoyce: takie luźne przemyślenia: nie uzyskają świadomości, a nawet jeżeli to nie będą umieli stwierdzić, że ona już jest, w pewnym momencie zaczną mówić o AGI i to się przyjmie,

oni będą integrować z AI wszystko co się da, więc katastrofę może wywołać program bez żadnej świadomości, ale mający zdolności decyzyjne, inaczej interpretując cele i zadania,

szczególnie, że na pewnym etapie nikt nie będzie wiedział co naprawdę

[SkyrFan2000]

@zino: Też mi się tak wydaje. Realistycznym zagrożeniem będzie integracja AI w różnorakie procesy bez zrozumienia czemu działają i pojawią się edge case'y które doprowadzą do tragedii. Pytanie jaka skala tego będzie, i do jak kluczowych procesów AI będize wpychane.


Właściwie prawdopodobnie już to się zdarzyło. (video rel)