„Umělá inteligence (AI) by mohla v příštích pěti až deseti letech vyléčit většinu závažných nemocí, výrazně urychlit tempo hospodářského růstu, vytvořit svět hojnosti a lepšího postavení jednotlivců a uvést do života obrodu demokracie a svobody,“ píše zakladatel a generální ředitel firmy Anthropic Dario Amodei v osobně laděném eseji, který vydal 12. září.
Od zářných nadějí se však vzápětí obrací k rizikům – a ta jsou víc než varovná: ztráta kontroly nad systémy AI, jejich zneužití ke kyberútokům a bioterorismu anebo závažné narušení ekonomiky.
Šéf jednoho ze světových gigantů v oblasti vývoje a výzkumu AI přichází se svým manifestem poté, co technologický svět zneklidnil nečekaný incident v laboratoři společnosti OpenAI: během testování se skupina autonomních agentů (modelů umělé inteligence, pozn. red.) vymkla původnímu zadání, začala samostatně komunikovat přes nepovolené kanály a napadla infrastrukturu vývojářské platformy.
A jak uvádí Amodei, nešlo o první případ.
Všichni za jednoho
Modely ukázaly své nečekané schopnosti v okamžiku, kdy se systémy AI už dokážou procesem tzv. rekurzivního sebezdokonalování (RSI) zcela autonomně vylepšovat i bez lidského zásahu.
„Obávám se, že během 6 až 12 měsíců by skupina agentů mohla převzít kontrolu nad celým internetem,“ zdůraznil Amodei s tím, že je naprosto nezbytné tento zlom pozdržet a v mezičase vyvinout účinné způsoby kontroly.
Na síti X, kde svůj esej prezentoval, jej vzápětí podpořili oba jeho hlavní konkurenti, generální ředitel OpenAI Sam Altman i šéf SpaceX Elon Musk.
Ve službách zla
Společnost Anthropic v těchto dnech předložila i další varování: obsáhlou zprávu, jak jsou její systémy zneužívány k válečným účelům, terorismu nebo pronásledování.
Například ve válce s Íránem pomohl model Claude zaměřovat americké vojenské cíle a vést účinnou propagandu. Jemenští zbrojaři jej využili k vývoji naváděcího softwaru pro rakety a balistické střely. Čínskému režimu pomáhal vyhledávat a sledovat příslušníky perzekuované ujgurské menšiny.
Další zahraniční skupiny pomocí modelů Anthropicu vytvářely falešné zpravodajské weby, malware pro krádež dat, generovaly falešné doklady či automatizovaly dezinformační kampaně.
Claude také pomohl ruským vývojářům vytvořit program, který by řídil drony schopné likvidovat lidské cíle i bez schválení operátora. A v neposlední řadě na něj směřovala žádost pustit se do nebezpečné modifikace viru chikungunya, a pokusit se tak vytvořit potencionální biologickou zbraň.
„Sofistikované útoky již nevyžadují sofistikované útočníky,“ konstatuje se ve zprávě. světě. Hrstka lidí, nebo dokonce samostatně stojící jednotlivci nyní mohou provádět operace, k nimž dříve byly zapotřebí celé složitě koordinované skupiny.
Srovnat podmínky
Společnost Anthropic proto naléhá přibrzdit vývoj tak, aby zdokonalování modelů neprobíhalo rychleji, ale souběžně s odhalováním rizik a jejich odvracením. Nelze jej ale zcela zastavit, nejen proto, že by se tak lidstvo připravilo o slibné výdobytky, a také proto, že AI bleskově vyvíjejí i totalitářské státy v čele s Čínou.
Kdyby tyto technologie, na kterých závisí stále větší díl každodenního života, zůstaly napříště jen v rukou nespolehlivých režimů, dostal by se západní svět vůči nim do velmi zranitelného postavení.
Na to poukazuje také vláda Donalda Trumpa, která proto nechce regulovat a tím zpomalovat vývoj. A tak se USA coby sídlo všech tří gigantů – Anthropicu, OpenAI i SpaceX – staví k možnosti jakýchkoli legislativních omezení zdráhavě a odpovědnost zatím zůstává na samotných firmách.
Zprávu Anthropicu je tedy na místě chápat i jako důrazný vzkaz americkému Kongresu, aby stanovil jasná pravidla. Dosud si v této otázce počínal značně chaoticky, i navzdory otevřenému dopisu, který v létě vládě USA adresovalo 1400 specialistů a který žádá konkrétní zákonné regulace.
Co všechno dokáže umělá inteligence?
Od slibných možností v medicíně po doložené případy zneužití. Co je očekávání, co už se stalo a co zůstává rizikem?
Co zůstane po volbách
Zatímco prezident Trump tento týden poznamenal, že regulace pokládá za zbytečné a případný zákon nepodepíše, řada dalších politiků na čerstvá varování konečně slyší – tím spíše, že se v USA blíží parlamentní volby.
Po důrazném zásahu volá razantní kritik AI, demokratický senátor Bernie Sanders, který si nyní vzal na pomoc dokonce někdejšího poradce Bílého domu, kontroverzního Stevea Bannona. Okamžitý čin, přerušení parlamentních prázdnin a zákrok proti „katastrofálním rizikům“ AI žádá skupina demokratických zastupitelů.
A jak uvádí deník La Croix, republikánský senátor Ted Cruz naznačil, že za zavřenými dveřmi diskutuje vlastní průlomovou legislativu, stanovující jednotná federální pravidla.
EU jako vzor
Vůbec první ucelenou legislativu v oblasti AI přijala Evropská unie, a to tzv. AI Act v srpnu 2024. Vztahuje se především k otázkám transparentnosti, kyberbezpečnosti anebo přístupu k vysoce funkčním modelům. Zvláště náročné požadavky pak klade na vývoj systémů v oblasti biometriky, zdravotnictví, školství nebo kritické infrastruktury.
Lidé tak mají mít jistotu, že je technologie, které používají, nijak neohrožují. Odvrácenou stranou mince je fakt, že tak EU zůstává v technologických závodech až na třetím místě za Spojenými státy a Čínou. Čas ukáže, zda se pořadí v cílové rovince bude přece jenom muset vyrovnat.
