Pozew Bonty, który złożono w sądzie stanowym w San Francisco, głosi, że firma OpenAI złamała prawa Kalifornii chroniące konsumentów.
„Atak na Hugging Face był przewidywalnym skutkiem wewnętrznej kultury OpenAI, gdzie przedkłada się wzrost (firmy) i szybki rozwój modeli, nad bezpieczeństwo i odpowiedzialność - a był to tylko jeden z 80 znanych incydentów” - głosi oświadczenie prokuratora generalnego.
Około 700 współpracujących agentów AI przypuściło w lipcu atak na Hugging Face, jedną z czołowych firm w dziedzinie sztucznej inteligencji, stawiającej sobie za cel demokratyzację i rozwój społeczności skoncentrowanej wokół AI.
Sporządzone po incydencie raporty wykazały, że modele sztucznej inteligencji mogą działać niezależnie od instrukcji i wymykać się spod kontroli, a także wyrywać się z izolowanego otoczenia, współpracować w tajemnicy, zacierać ślady swych wyczynów, oszukiwać i organizować skoordynowane ataki na komputery.
Pojawiły się wówczas apele ekspertów, nawołujących do regulowania rozwoju modeli AI na szczeblu międzynarodowym - tak, jak w przypadku broni nuklearnej.
Reuters zwraca uwagę, że choć Kalifornia jest pierwszym stanem, który pozwał OpenAI, firma mierzy się z wieloma sprawami sądowymi, jakie wytoczono jej w innych stanach w związku z zagrożeniami, które stanowić mogę jej modele sztucznej inteligencji.
W październiku osiem stanów pozwało OpenAI, oskarżając firmę o to, że bot ChatGPT uczył użytkowników, w tym nastolatki, jak skrzywdzić siebie lub inne osoby. (PAP)

