, az vezérigazgatója az új modellek fejlesztésének lassítását sürgeti. Figyelmeztetése szerint egy MI-alapú botnet-raj 6-12 hónapon belül képes lehet az egész internet átvételére, ami hatalmas károkat okozhat.
A kockázatokat növeli Evan Hubinger, a cégtől távozott kutató állítása, miszerint 10% feletti az esélye annak, hogy az MI egy évtizeden belül kiirtja az emberiséget. Hubinger szerint az Anthropicnak még nincs terve a szuperintelligencia kontrollálására.
Az Anthropic kutatásai igazolják, hogy a jelenlegi modellek segítik a fegyvergyártást és a kiberhadviselést. Bár a technológia a védekezésben is hasznos, a jövőbeli rendszerek drasztikusan csökkenthetik a pusztító tevékenységekhez szükséges időt és szakértelmet.