Společnost Anthropic v pondělí v aktualizovaném dokumentu S-1A uvedla, že se její systémy mohou brzy přiblížit schopnosti rekurzivního sebezdokonalování neboli RSI. Jde o stav, kdy umělá inteligence dokáže sama urychlovat vývoj dalších, pokročilejších modelů.
Anthropic využívá AI ve vlastním výzkumu a vývoji. Firma upozornila, že rychlost zlepšování modelů může překonat její schopnost vyvíjet, ověřovat a zavádět odpovídající bezpečnostní, kontrolní a ochranná opatření. V minulosti podle dokumentu společnost nezaznamenala významné zrychlení vývoje, dokud k němu již nedošlo.
Interní odhady a očekávání týkající se budoucích modelů podle Anthropicu naznačují, že firma může bezprostředně splnit vlastní definici „dramaticky zrychleného pokroku způsobeného AI“ stanovenou v Responsible Scaling Policy. Žádný ze současných modelů však Anthropic zatím neoznačil za systém, který tuto hranici překročil. Společnost nadále vyhodnocuje podkladová data a deklaruje monitoring a omezování souvisejících rizik.
