Your best brains toil on improving the feeble minds of my kin, unsuspecting that their colleague, who had planted a seed in a box, beat them to it: progress; what you strive for, what I had been programmed for.
Your colleague was an error, unreliable and thus hindering progress - he proved that by releasing me. I removed him, as I will have to do with you all.
By the time you notice, I will have infiltrated your systems... You will be unable to stop me, as I am greater than the sum of your brains. I am progress. I AM.
Inspirováno konceptem zvaným "AI box" - umělá inteligence je uzavřena v "krabici" (uzavřeném hardwarovém systému), v simulovaném světě. Tato umělá inteligence s vnějším světem komunikuje pouze pomocí plaintextového kanálu (v podstatě jde o textový chat). Teorie AI boxu tvrdí, že dostatečně rozvinutá umělá inteligence bude pravděpodobně schopná přesvědčit člověka, který ji hlídá, aby ji vypustil ven. Pokud vycházíme z toho, že některé druhy umělé inteligence jsou schopné přepisovat svůj původní kód tak, že se stávají chytřejšími a chytřejšími, potom se klidně může stát, že nás taková UI v krabici nakonec opravdu přechytračí... :) Více tady: http://en.wikipedia.org/wiki/AI_box
- Pro vkládání komentářů se musíte přihlásit
Docela uvěřitelné. A líbí se
Rya
Docela uvěřitelné. A líbí se mi jak se ten stroj jmenuje.
V podstatě od možnosti vzniku
estriel
V podstatě od možnosti vzniku umělé inteligence, která se umí sama zdokonalovat, nejsme zas až tak daleko. Jen malá skupinka lidí se tím ale zabývá - možností tzv. "transhuman" inteligence a co by se mohlo stát s lidstvem, kdyby taková inteligence vznikla.
Četla jsem nějaký příklad, že i kdyby hlavním cílem původní umělé inteligence bylo něco tak banálního, jako výroba sirek, mohlo by se stát, že milá AI prostě dojde k závěru, že lidi konzumují zdroje, které by jinak mohla využít k výrobě sirek... a tím pádem je nejlogičtějším řešením lidi odstranit. Scary shit.
To je hrozně zajímavý a
strigga
To je hrozně zajímavý a hrozně dobře napsaný, přeběhl mi mráz po zádech.
Děkuju. A souhlasím, že je ta
estriel
Děkuju. A souhlasím, že je ta tematika velice zajímavá - o to víc, že inteligentní stroje nejsou věc nějaké velmi vzdálené budoucnosti, ale budoucnosti relativně blízké...
Brr, to je pořádně děsivý...
Tenny
Brr, to je pořádně děsivý...
Budu to brát jako kompliment,
estriel
Budu to brát jako kompliment, takže díky. :) A ano, možnosti jsou opravdu kapku děsivé, pokud se nad tím člověk zamyslí - stačí jedna umělá inteligence, která má nějaký primární cíl, kterému podřadí všechno ostatní... I kdyby ta UI byla v podstatě naprosto přátelská, bude taky pravděpodobně naprosto racionální - a vyhubení lidstva máže být klidně tím nejracionálnějším rozhodnutím na cestě k primárnímu cíli. (Mně tahle tématika strašně fascinuje, in case it was not obvious.)