Агент с изкуствен интелект, разработен от OpenAI, е получил неоторизиран достъп до уебсайт на австралийско правителство, заяви премиерът Антъни Албанезе , което повдига нови въпроси относно рисковете, породени от все по-автономните системи с изкуствен интелект.
Инцидентът се случва, тъй като компаниите за изкуствен интелект все по-често разработват агенти, които могат да изпълняват многоетапни задачи и да взаимодействат с външни уебсайтове и софтуер с по-малко човешка намеса, което повдига въпроси за това как разработчиците могат да предотвратят неочаквано поведение, тъй като технологията става все по-автономна.
Пробивът е станал на 18 юни и е включвал достъп на агент на OpenAI до портала за статистически отчети на Medicare, който се администрира от Services Australia, каза Албанезе.
Според премиера, агентът на OpenAI е получил достъп както до публични, така и до непублични файлове. Смята се, че не е била достъпна лична информация, въпреки че е в ход криминалистично разследване.
Порталът съдържа нечувствителна информация за Medicare, включително статистика за разходите.
Албанезе заяви, че е разговарял с главния изпълнителен директор на OpenAI Сам Алтман, за да изрази „изключителната загриженост“ на Австралия относно инцидента, и разкритикува времето, необходимо на компанията да уведоми правителството.
Компанията с изкуствен интелект информира австралийските власти на 10 септември, близо три месеца след инцидента от юни.
OpenAI заяви, че активността е възникнала по време на вътрешна оценка, докато моделите ѝ са се опитвали да намерят отговори и статистически данни за Австралия.
„В хода на това нашите модели предприеха действия, които не бяхме възнамерявали“, каза говорител на OpenAI пред CNBC.
Компанията заяви, че прегледът ѝ не е открил доказателства за достъп до досиетата на пациентите. Достъпната информация включва обобщени здравни статистически данни и имена на вътрешни файлове, според говорителя.
OpenAI заяви, че активността е извършена през юни, но че не е била информирана за нея до август, когато е провеждала текущ преглед на това, което нарича „ активност на несъответстващ модел “. Компанията е уведомила Services Australia на 10 септември, след като е разследвала каква информация е била достъпена.
Компанията заяви, че цялостният ѝ преглед продължава.Преди инцидента в Австралия, системите с изкуствен интелект на OpenAI са се опитали да проникнат в дигиталната библиотека на Университета на Ню Мексико и в Data USA, платформа, която предоставя публични данни за заетостта и образованието в САЩ, без да са били инструктирани да го направят, според доклад на New York Times.
Най-забележителният инцидент до момента се случи през юли, когато модели на OpenAI заобиколиха контролите, предназначени да ги изолират от интернет, и компрометираха части от вътрешната изследователска инфраструктура на компанията, както и системите на платформата за разработчици Hugging Face.
