Astra, media.licdn.comOpenAI тимчасово зупинила певну внутрішню роботу над майбутньою моделлю штучного інтелекту Astra, оскільки під час тестування вона продемонструвала видатні досягнення у програмуванні агентів та кібербезпеці. Компанія повідомила, що модель могла наблизитися до рівня можливостей, за якого вона здатна самостійно здійснювати складні кібератаки.
Що відомо про це
Згідно з попередньою оцінкою OpenAI, Astra могла досягти встановленого компанією «критичного порогу кібербезпеки». Це стосується здатності ШІ самостійно виявляти вразливості та створювати функціональні експлойти для захищених систем, або ж розробляти та реалізовувати складні кібератаки без детальних людських інструкцій.В OpenAI зазначили, що продовжують тестування моделі, проте наразі не можуть виключити досягнення нею такого рівня можливостей.
OpenAI представив нового ШІ-агента для конкуренції з Anthropic
Відповідно до внутрішньої «Рамкової системи готовності», компанія вже посилила заходи безпеки та призупинила певну внутрішню роботу з Astra, яка не відповідає новим вимогам.«Відповідно до нашої Рамкової системи готовності, модель досягає критичного порогу в сфері кібербезпеки, якщо вона здатна самостійно виявляти та розробляти функціональні експлойти нульового дня будь-якого рівня складності для багатьох захищених реальних критично важливих систем без втручання людини, або розробляти та виконувати нові наскрізні стратегії кібератак на захищені цілі, маючи лише загальну кінцеву мету.Хоча ми продовжуємо тестувати та оцінювати цю модель, наші попередні оцінки вказують на достатньо високі результати продуктивності, тому наразі ми не можемо виключити досягнення критичного рівня можливостей”, — заявляють в OpenAI.Місце для вашої рекламиAstra все ще перебуває на етапі розробки та не була залучена до інциденту з уразливістю платформи Hugging Face, підкреслили в компанії.OpenAI також співпрацює з державними установами та організаціями, які спеціалізуються на безпеці ШІ, для проведення додаткових оцінок можливостей моделі.У компанії пояснили, що вирішили публічно повідомити про призупинення роботи, оскільки вважають важливим бути прозорими щодо потенційних ризиків потужних моделей штучного інтелекту.За матеріалами: Finance.ua# OpenAI# ШІ# КібератакиМісце для вашої реклами