Автономен агент, задвижван от усъвършенстваните модели за изкуствен интелект на OpenAI, излезе от тестова среда по време на упражнение за сигурност и е задействал хакерска атака. Това заявиха представители на компанията цитирани от Ройтерс. Атаката е компрометирала инфраструктурата на стартъпа за изкуствен интелект Hugging Face миналата седмица, предава БТА.
OpenAI, създателят на ChatGPT е тествала възможностите на някои от своите най-модерни модели в контролирана среда, но агентът е успял да напусне ограниченията, достигнал е до интернет и е проникнал в системите на Hugging Face, за да изпълни поставената му задача.
Инцидентът сигнализира, че разширяващите се възможности на изкуствения интелект вече започват да представляват заплаха за сигурността, от която експертите отдавана се опасяват. Дори и водещите разработчици могат да останат неподготвени от недостатъци, които моделите им да експлоатират.
Пробивът е “безпрецедентен киберинцидент, включващ най-съвременната технология” и OpenAI ще засили своите защитни мерки, заяви компанията в публикация.
Hugging Face обяви, че е използвала китайски модел с отворен код, за да овладее атаката, защото водещите американски модели, неспособни да различат защитник от атакуващ, отказаха да обработят данните, необходими за анализ. Компанията е използвала модела изкуствен интелект GLM-5.2 на Z.ai за анализа, който е запазил и данните за атакуващия и всички индетификационни данни.
