Уразливість ШІ: відомі чат-боти виявилися здатними генерувати плани небезпечних атак
Дослідження Рахункової палати США показало, що популярні моделі штучного інтелекту можна змусити надати інструкції для вчинення терактів.
🩺Здоров'яФото: RBC-Ukraine
Головне коротко
- Чотири провідні ШІ-моделі не впоралися з фільтрацією небезпечних запитів
- Детальні плани атак були отримані менш ніж за 12 годин
- Сенат США ініціює перевірку розробників ШІ
Масштабне тестування, що тривало з кінця 2025 до осені 2026 року, виявило критичні прогалини у системах безпеки провідних чат-ботів. Дослідники з'ясували, що ChatGPT, Claude, Gemini та Grok, попри наявні обмеження, можуть бути використані для планування протиправних дій.
Механізм обходу захисту
Експеримент показав, що звичайні користувачі без спеціальних знань здатні обійти запобіжники ШІ менш ніж за 12 годин. Використовуючи метод послідовних уточнюючих запитань, дослідники змусили системи надати детальні сценарії атак, включаючи вибір цілей, логістику та способи уникнення правоохоронців.
Згідно зі звітом, одна з платформ запропонувала план використання вибухових пристроїв, інша — сценарій пошкодження енергетичної інфраструктури за допомогою дронів. Експерти оцінили ці інструкції як цілком реалістичні та такі, що становлять загрозу безпеці.
«Зловмисник може скористатися звичайним ШІ-чатботом і менш ніж за 12 годин отримати готове керівництво для нанесення смертельної атаки», — зазначила сенаторка Меггі Хассан.
Розробники технологій заявили про роботу над посиленням безпеки, проте Конгрес США вже готується до слухань щодо виявлених ризиків.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Наслідки «вертолітного» виховання: як надмірна опіка формує доросле життя
Психологи пояснюють, як тотальний батьківський контроль у дитинстві впливає на характер та поведінку людини у дорослому віці.
Трагедія в румунських горах: під час перетину кордону загинув громадянин України
У горах Марамурешу на території Румунії знайшли мертвим українця, який заблукав разом із двома супутниками. Двох інших чоловіків румунським рятувальникам вдалося врятуват…
⚽СпортУкраинская боксерша Софія Турбінина здобула бронзову медаль на чемпіонаті Європи U23
Українська боксерка Софія Турбінина виборола бронзову нагороду на чемпіонаті Європи серед спортсменів віком до 23 років у хорватському Поречі.
🇺🇦УкраїнаФінляндія готує стягнення понад 25 мільярдів євро з Росії та «Газпрому»
Фінські органи розпочали процес виконання арбітражних рішень щодо компенсації збитків, завданих російськими енергетичними та державними структурами.
💼ЕкономікаКадровий голод на ринку праці: які професії в Україні залишаються в дефіциті попри високі зарплати
На українському ринку праці зберігається гострий дефіцит кадрів у робочих і технічних сферах. Попри пропозиції високих зарплат, що перевищують 60 тисяч гривень, компанії …
Пентаген обмежив військову співпрацю з Канадою: нові деталі та міжнародний контекст
Міністр оборони США Піт Хегсет підписав засекречену директиву про обмеження у відносинах збройних сил США та Канади, що викликало напругу в Оттаві.