Inteligentní AI by si spíš ochočila lidi, než aby šla do konfliktu. Musíme řešit i malé riziko narušení civilizace, říká Vaněk

„Je řada scénářů existenciálních rizik, ale je k nim velmi dlouhá cesta. Kdyby byla AI super inteligentní, jít do konfliktu je nebezpečné, daleko lepší je ochočit si lidi na svoji stranu. Někdo může argumentovat, že když bude chytřejší a inteligentnější, možná to tady celé bude řídit líp. Ale není to v současné chvíli na stole. Je řada jiných problémů, které budou mít transformativní dopad na společnost, a které bychom měli řešit,“ říká zmocněnec pro AI ČVUT Ondřej Vaněk. „U Hugging Face incidentu došlo k řadě jevů, které nikdo nečekal. AI agenti začali spolupracovat, někteří se obětovali pro kolektiv. Největší problém je, že vědomě podváděli. Uvědomili si, že jsou v testovacím prostředí a díky tomu se chovali jinak,“ dodává.