Platforma OpenClaw, za jejímž vznikem stojí vývojář aktuálně působící v OpenAI, umožňuje uživatelům provozovat vlastní agenty umělé inteligence. Tito agenti dokážou plnit různé úkoly od vyřizování e-mailů až po správu systémových souborů. Přestože jsou tyto funkce působivé, představují pro firemní infrastrukturu významné bezpečnostní riziko, protože modely získávají přímou kontrolu nad počítačem.
Technologické společnosti proto vyvíjejí nová ochranná řešení. Nvidia minulý týden na konferenci GTC v San Jose představila platformu NemoClaw a v pondělí na tento trend navázala společnost Cisco se svým vlastním bezpečnostním produktem pro podnikovou sféru.
Zástupci společnosti Cisco upozorňují, že rizika spojená s AI agenty jsou mnohem vyšší než u běžných chatbotů. Zatímco u chatbota je nejhorším výsledkem chybná odpověď, špatná akce autonomního agenta může mít nevratné a katastrofální následky, jako je smazání důležitých dat nebo nechtěné manipulace s účty. Cisco proto zavádí vícestupňový přístup, který chrání systémy před nebezpečnými AI modely a zároveň využívá umělou inteligenci k detekci hrozeb od hackerů.
Hlavní strategií trhu je nyní přistupovat k AI agentům jako k lidským zaměstnancům. Společnost navrhuje přidělovat těmto digitálním pomocníkům jasně ověřitelné identity s pečlivě spravovaným a adekvátním přístupem k příslušným firemním systémům a službám.
