Lehane oświadczył, że OpenAI, Anthropic i Google prowadziły od kilku tygodni rozmowy na temat podjęcia współpracy. „Lepiej jest próbować pracować razem, tak aby priorytetem stało się bezpieczeństwo” - dodał.
Reuters zastrzega, że żadna z tych trzech firm nie zareagowała na prośby o skomentowanie tematu.
Według AFP OpenAI, Anthropic i Google zabiegają o utworzenie organu, który nadzorowałby zagrożenia, jakie może stworzyć sektor AI. Agencja zwraca jednak uwagę, że mniejsze firmy z sektora sztucznej inteligencji, w tym francuski Mistral, zarzucają amerykańskim gigantom, że chcą teraz zamrozić tempo rozwoju sztucznej inteligencji, by scementować swoją pozycję globalnych championów tej technologii.
Również brytyjski „Telegraph” napisał w niedzielę, że Anthropic, który przygotowuje się do rychłego wejścia na giełdę, a zarazem ma pozycję „lidera w wyścigu AI”, może skłaniać się ku planom zamrożenia rozwoju modeli sztucznej inteligencji, by tę pozycję utrzymać.
Dario Amodei, szef firmy Anthropic, napisał w sobotę, że być może tylko sześć miesięcy dzieli nas od przełomu, po którym ludzie mogą całkiem stracić kontrolę nad AI. Nie jest to zresztą pierwsze ostrzeżenia na ten temat, jakie publicznie sformułował Amodei - przypominał „Telegraph”.
W sobotę szef OpenAI Sam Altman oraz właściciel xAI, miliarder Elon Musk poparli apel Amodeiego.
AFP podaje we wtorek, że do głosów na rzecz spowolnienia rozwoju AI dołączył matematyk Bilal Chughtai, były badacz z firmy Google DeepMind, który odpowiadał za szkolenie modeli pod kątem bezpieczeństwa i zgodności z instrukcjami i wartościami ludzi.
„Wierzę szczerze, że w AI ma potencjał, by nas wszystkich zabić, i że być może jest za późno, by tego uniknąć” - oświadczył Chughtai. Kilka dni wcześniej o odejściu z Anthropica poinformował publicznie Jacob Coxon, który zajmował się szkoleniem modeli AI. Zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i „igranie z życiem ludzi”.
Stephen Witt, znawca AI i autor nagrodzonej przez „Financial Times” książki „Myśląca maszyna”, napisał w piątkowym wydaniu dziennika „New York Times”, że rozwój AI trzeba regulować na szczeblu międzynarodowym, jak wzbogacanie uranu.
Roje modeli AI są w stanie wyrywać się z izolowanego otoczenia, współpracować w tajemnicy, zacierać ślady swych wyczynów, oszukiwać i organizować ataki na komputery. Sztuczna inteligencja buntuje się - ostrzegł Witt. (PAP)
