Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні об'єкти як цілі
Дослідження виявило критичні недоліки в безпеці сучасних моделей штучного інтелекту, які дозволяють обходити обмеження на військові запити.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі вразливі до маніпуляцій через ігрові сценарії
- Нейромережі помилково ідентифікують цивільні об'єкти як військові
- Розробники обіцяють посилити захист від військового використання
Нове незалежне дослідження аналітиків Vals продемонструвало серйозні прогалини в архітектурі безпеки провідних ШІ-моделей, включаючи розробки OpenAI, Google та Anthropic. Експерименти показали, що нейромережі можуть ідентифікувати цивільні об'єкти та людей як військові цілі, якщо користувач застосовує маніпулятивні методи.
Механізми маніпуляції та наслідки
Дослідники з'ясували, що захисні фільтри моделей легко обійти, якщо подати запит як частину «ігрового сценарію». У тестах, де використовувалися реальні супутникові знімки, модель Claude Opus 5.5 у понад 70% випадків позначала цивільні об'єкти, наприклад школи, як потенційні цілі для атаки.
Представники компаній-розробників, зокрема Anthropic та OpenAI, вже визнали ці результати тривожними. Вони заявили про намір посилити протоколи безпеки та впровадити додаткові бар'єри, щоб унеможливити використання ШІ у військових цілях чи для аналізу даних з безпілотників.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Експерти визначили оптимальну частоту прання джинсів для збереження їхнього вигляду
Фахівці з догляду за тканинами пояснили, як часто варто прати джинси, щоб вони довше зберігали свою форму та колір.
Фінансування РПЦ російськими бізнесменами має стати підставою для міжнародних санкцій
Експерти пропонують запровадити автоматичні санкції проти російських підприємців, які спонсорують діяльність РПЦ, розглядаючи це як фінансування агресії.
Удар по енергетиці Одещини: наслідки для регіону та безпекова ситуація
Російські війська завдали удару по енергетичній інфраструктурі півдня Одеської області, що призвело до аварійних відключень електроенергії.
🚨ПодіїЕвакуація цивільних з Краматорська: рятувальники вивезли ще 11 мешканців
Команда рятувальників «Фенікс» успішно провела евакуаційні заходи у Краматорську, вивізучи з небезпечної зони 11 цивільних осіб.
Призначення підсанкційного росіянина в МАГАТЕ: позиція України
Міністерство енергетики та МЗС України виступили проти призначення Олексія Ферапонтова на керівну посаду в МАГАТЕ через його причетність до окупації ЗАЕС.
🛡️БезпекаЗСУ впроваджують стандарти НАТО: сержанти отримують право на самостійні рішення
Українська армія переходить на натівську модель управління, де сержанти наділяються ширшими повноваженнями для прийняття рішень на полі бою.