I když pro lidi nepříliš spjaté s technologiemi zní titul spíše jako sci-fi, umělá inteligence povede k zániku lidstva, pokud nebude držena na uzdě.
Poté, co v dubnu 2023 hovořil Elon Musk a další technologičtí experti obecné nebezpečí, které umělá inteligence může vyprodukovat na celospolečenské úrovni byli na řadě generální ředitelé největších společností vyvíjejících umělou inteligenci, aby bili na poplach otevřeným dopisem.
Mezi 350 signatáři otevřeného dopisu, který nezisková organizace spustila „Center For AI Safety"(CAIS), zahrnuje: Sam Altman, generální ředitel společnosti OpenAI, šéfové společností AI DeepMind, Antrophic ale také vedoucí pracovníci ze společností Microsoft, Google, kteří také vyvíjejí široké jazyky umělé inteligence.
Připojili se ke skupině výzkumníků a profesorů v oboru, aby se vyjádřili obavy, že umělá inteligence může vést k vyhynutí lidstva pokud političtí činitelé nebudou brát tuto otázku vážně.
Účinky neregulované umělé inteligence na globální úrovni mohou způsobit stejné škody jako jaderná válka nebo pandemie zcela mimo kontrolu, uvádí otevřený dopis.
Povede umělá inteligence k vyhynutí lidstva?
S největší pravděpodobností se lidé s rozhodovací pravomocí včas probudí a budou hledat řešení, jak tento obrovský krok učiněný technologií regulovat. Před rozhodnutím si samozřejmě musí uvědomit, jaká jsou rizika, která s sebou přináší výhody umělé inteligence.
Umělá inteligence neznamenala jen ChatGPT, Microsoft 365 Copilot nebo Google Bard. Modese používají soubory generativní umělé inteligence lék, výzkum, robotika a automatizace, vzdělávání, finance, obchod a mnoho dalších oblastí, kde to skutečně pomáhá.
AI dá se využít i k destruktivním účelům a s tímto aspektem souvisí i obava, že umělá inteligence povede k zániku lidstva. Manipulace společnosti s cílem vytvořit napětí mezi masami až po vývoj inteligentních zbraní schopných překonat lidskou inteligenci a rozhodovat se autonomně. Je to technologie schopná se sama učit, vyhodnocovat situace a jednat.
Největší problém je v tom modeširoké jazykové soubory AI (LLM) jsou dostupné komukoli.
Jaderné štěpení bylo pro lidstvo obrovským krokem, který přinesl výhody i velká nebezpečí. Energie produkovaná jaderným štěpením je obrovským zdrojem a skutečným přínosem, zatímco jaderné zbraně mohou být pro lidstvo katastrofální. Na druhou stranu, jaderné palivo není v dosahu každého tak, jak je modesoubory umělé inteligence. uran (U-235) nebo plutonium-239 nikdo nenajde tak snadno jako najít počítač, na kterém lze spustit Python.
Jedno je však jisté. Umělá inteligence povede k zániku lidstva, jen pokud to lidstvo dovolí. Pokud přírodní síly nemůže ovládat člověk, umělá inteligence stále může být ovládána (doufám).
