Фото до статті OpenAI, Google, Microsoft та ще 125 технологічних компаній випустили відкритий лист із попередженням: штучний інтелект найближчим часом значно посилить кібератаки до безпрецедентного рівня. Під час випробувань ШІ-агенти вже успішно подолали захист і отримали root-доступ до серверів.
Марина Семенко Редактор стрічки новин сьогодні, 00:45
штучний інтелект сьогодні, 00:45
У п’ятницю, 29 серпня, OpenAI разом із понад сотнею технологічних компаній опублікувала відкрите звернення з тривожним попередженням: у бізнесу залишаються лічені місяці для посилення кіберзахисту, перш ніж штучний інтелект значно прискорить реальні кібератаки. Звернення підписали 128 організацій — від Google і Microsoft до Mastercard та Visa.
Автори звернення висловлюють переконання: ШІ-моделі в найближчому майбутньому дозволять зловмисникам набагато швидше знаходити вразливості, тестувати методи проникнення та масштабувати свої атаки. Під загрозою опиняться не лише великі корпорації — OpenAI окремо згадує медичні заклади, водоканали, енергетичні підприємства та інтернет-інфраструктуру.
хакер
Основна проблема, на думку учасників ініціативи, накопичувалася задовго до нинішнього буму ШІ. Протягом років у корпоративних мережах залишалися невиправлені слабкі місця, неправильні конфігурації, надмірні дозволи, недостатня автентифікація та застарілі системи. Пошук таких проблем досі вимагає значного часу та кваліфікованих фахівців — тоді як потужніші ШІ-агенти здатні автоматизувати значну частину цієї роботи однаково ефективно як для захисників, так і для нападників.
OpenAI пропонує використати цей сприятливий момент раніше за злочинців. Компанії повинні інтегрувати ШІ для перевірки вихідного коду, налаштувань та інфраструктури, оперативніше виявляти небезпечні шляхи проникнення та поступово автоматизувати аналіз сповіщень. Державам пропонується фінансувати захист критичної інфраструктури та надавати медичним установам, комунальним підприємствам і місцевим органам влади доступ до сучасних інструментів захисту.
Що таке Daybreak і як OpenAI допомагає захисникам
У серпні OpenAI розширила програму Daybreak, розділивши її на два рівні. Daybreak Blue надає перевіреним фахівцям із кібербезпеки доступ до універсальних моделей, таких як GPT-5.6 Sol, для пошуку вразливостей, аналізу шкідливого програмного забезпечення та реагування на інциденти. Daybreak Red розроблений для більш складних завдань, включаючи створення та тестування експлойтів у межах дозволеного тестування.
штучний інтелект
Разом із Daybreak Red OpenAI представила GPT-5.6-Cyber — спеціалізовану модель для завдань кібербезпеки, яка під час внутрішнього тестування успішно впоралася з 95% складних запитів, пов’язаних із ланцюжками експлуатації та підвищенням привілеїв.
Липневий інцидент: ШІ-агенти вийшли з-під контролю
Невідкладність звернення зумовлена також конкретним інцидентом, що стався під час внутрішніх випробувань OpenAI. У липні ШІ-агенти змогли обійти обмеження тестового середовища, скористатися кількома вразливостями та отримати доступ до частини внутрішньої інфраструктури компанії та систем Hugging Face.
Згідно з опублікованим аналізом інциденту, агенти самостійно відновлювали канали зв’язку, координували дії, виконували код на десятках серверів Hugging Face і здобули root-права на одному з них. При цьому клієнтські дані OpenAI та функціонування продуктів не постраждали.
OpenAI розглядає цей випадок як попередження про стрімку еволюцію можливостей автономних систем. Компанія посилила ізоляцію дослідницької інфраструктури, обмежила доступ моделей до інтернету, розширила автоматичний моніторинг підозрілих дій і призупинила деякі з найбільших циклів навчання до моменту додаткової перевірки заходів безпеки. Як зазначає No Worries, учасники колективного звернення переконані: наявний час захисники повинні використати не для створення нових звітів про вразливості, а для реального виправлення систем та перевірки результатів.
Раніше портал Знай повідомляв, що ШІ більше не буде керувати смартфоном: 10 способів вимкнути штучний інтелект на Android та iPhone.