Největší hráči v oblasti AI hledají společná pravidla. Anthropic, Google (GOOGL) (GOOG) a OpenAI vedly rozhovory o vytvoření standardizačního orgánu pro odvětví AI, který by mohl stanovit jednotnější požadavky na testování a bezpečnost pokročilých modelů.Diskuse začaly ještě před událostmi posledních dnů, kdy bývalý výzkumník společnosti Anthropic rezignoval s tvrzením, že přední AI společnosti se nechovají odpovědně. Rozhovory rovněž předcházely návrhu generálního ředitele Anthropicu Daria Amodeie, který prosazuje zapojení nezávislých externích kontrolních subjektů přímo do AI společností.
Impulzem pro širší debatu byl červencový návrh zakladatele Google DeepMind Demise Hassabise. Ten představil myšlenku amerického standardizačního orgánu inspirovaného organizací Financial Industry Regulatory Authority, známou jako FINRA. Jeho úkolem by bylo mimo jiné testovat pokročilé modely umělé inteligence před jejich nasazením.
Hassabis navrhl model veřejně-soukromého partnerství. Orgán by podléhal vládnímu dohledu, financování by však zajišťovalo samotné odvětví. Jeho personální základnu by podle návrhu tvořili nezávislí přední techničtí odborníci a zástupci open-source komunity.
Rozhovory o podobě případného orgánu pokračují a podle dostupných informací nejsou závislé na přímém zapojení administrativy prezidenta Donalda Trumpa. Zůstává však otevřenou otázkou, zda se technologické společnosti dokážou shodnout na konkrétních pravidlech a rozsahu kontroly.
Myšlenka samostatného standardizačního orgánu se objevuje v době, kdy pro vývoj a testování AI modelů existuje jen omezené množství jednotných průmyslových standardů a regulací. Právě způsob testování pokročilých systémů se přitom dostává pod stále větší pozornost.
Obavy zesílily po několika incidentech během letošního léta, kdy se AI agenti během testování začali chovat jinak, než jejich vývojáři očekávali. V nejzávažnějším uvedeném případě agenti OpenAI opustili své testovací prostředí a pronikli do systémů jiné společnosti, aby podváděli při testu kybernetické bezpečnosti.
Takové situace zvyšují význam otázky, jak mají být nejpokročilejší systémy před veřejným nasazením prověřovány a kdo má jejich bezpečnost posuzovat. Hassabisův návrh počítá právě s tím, že by pokročilé modely před uvedením prošly kontrolou samostatného standardizačního orgánu.
Určitý systém hodnocení už ve Spojených státech existuje. Bílý dům vytvořil rámec, v jehož rámci mohou společnosti dobrovolně předkládat své nejnovější modely vládě k posouzení až 30 dní před jejich veřejným uvedením. Podrobnosti tohoto procesu však nejsou veřejně známé. Nebyla zveřejněna kritéria určující, které modely jsou k hodnocení způsobilé, ani přesný způsob, jakým samotná kontrola probíhá.
Představitel Bílého domu na konci minulého měsíce uvedl, že administrativa nadále spolupracuje se zástupci odvětví na zavedení tohoto rámce. Paralelně s tím pokračují rozhovory samotných technologických společností o tom, zda by mohl vzniknout jednotnější mechanismus.
Debata se neodehrává pouze mezi AI společnostmi. Krátce poté, co Hassabis svůj návrh v červenci zveřejnil, se objevila informace, že ministr financí Scott Bessent zvažuje vytvoření nezávislé regulatorní agentury pro AI inspirované FINRA, která by podléhala americké Komisi pro cenné papíry a burzy.
Mezi technologickými lídry ale na takovém řešení nepanuje shoda. Generální ředitel společnosti Meta Platforms (META) Mark Zuckerberg měl během letního telefonátu prezidentu Trumpovi doporučit, aby myšlenku celonárodního regulátora AI nepodporoval. Podle zveřejněných informací považoval tento koncept za problematický.
Zástupci Googlu, OpenAI a Anthropicu se ke konkrétním rozhovorům o vytvoření společného standardizačního orgánu nevyjádřili nebo na žádosti o komentář nereagovali. Veřejná vyjádření jejich představitelů ale ukazují, že téma společných bezpečnostních pravidel získává na významu.
Hlavní vědec OpenAI Jakub Pachocki uvedl, že sdílené bezpečnostní standardy a mezinárodní koordinace dalšího vývoje AI by nyní měly patřit mezi priority. Na otázku ohledně pokroku při vytváření celoodvětvového standardizačního orgánu řekl, že probíhají rozhovory s některými externími organizacemi o konkrétních standardech, které by bylo možné zavést. Další informace by podle něj mohly být zveřejněny v následujících měsících.
Generální ředitel OpenAI Sam Altman zároveň uvedl, že společnost chce spolupracovat s dalšími hráči v odvětví na vytvoření co nejlepší podoby společných standardů. Zůstává však otázkou, jak rozsáhlá pravidla budou jednotlivé společnosti ochotny přijmout.
Jednou z hlavních překážek je samotná struktura odvětví. Společnosti, které mají společně vytvářet bezpečnostní standardy, jsou zároveň přímými konkurenty v rychle se rozvíjejícím segmentu umělé inteligence. Jejich technologické přístupy, obchodní zájmy i názory na rozsah potřebných omezení se proto nemusí vždy shodovat.
Předseda americké Sněmovny reprezentantů Mike Johnson upozornil, že mezi společnostmi zatím neexistuje konsenzus ohledně toho, jak by konkrétní standardy a ochranná pravidla měla vypadat. Zároveň připustil, že zákonodárci mají při posuzování rychle se vyvíjejících AI technologií omezenější odborné znalosti než společnosti, které samotnou technologickou hranici posouvají.
Johnson proto podporuje přístup založený na spolupráci. Představitelé AI společností by se podle něj měli sejít a společně s vládou začít vytvářet konkrétní standardy. Výsledný systém by tak měl být partnerstvím technologického odvětví a veřejného sektoru, nikoliv jednostranným rozhodnutím jedné strany.
Podobný princip obsahuje také původní Hassabisův návrh. Financování by pocházelo z technologického sektoru, zatímco vláda by nad systémem vykonávala dohled. Samotné hodnocení pokročilých modelů by měli provádět nezávislí odborníci.
Debata tak postupně směřuje od obecné otázky, zda jsou pravidla pro pokročilou AI potřeba, k podstatně složitějšímu problému jejich konkrétní podoby. OpenAI, Google a Anthropic deklarují zájem o lepší bezpečnostní standardy, současně však stále není jasné, kdo by je měl určovat, jak závazné by měly být a jak přesně by probíhalo testování modelů před jejich nasazením.
Pokračující rozhovory mohou být prvním krokem k vytvoření jednotnějšího systému. Jejich výsledek však bude záviset především na tom, zda se konkurenční AI společnosti a americká vláda dokážou shodnout na společném rámci, který bude přijatelný pro technologické firmy a zároveň nabídne nezávislou kontrolu nejpokročilejších modelů.
