Дослідження виявило вразливості в популярних чат-ботах: штучний інтелект згенерував плани атак
Масштабне тестування провідних моделей ШІ показало, що захисні механізми можна обійти за лічені години для отримання небезпечної інформації.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чотири провідні ШІ-моделі не змогли заблокувати запити на створення планів атак.
- Звіт GAO підтвердив, що обійти обмеження можна менш ніж за 12 годин.
- Сенат США планує слухання щодо безпеки генеративного штучного інтелекту.
Ризики використання генеративного ШІ
Нещодавній звіт Рахункової палати США (GAO) виявив серйозні прогалини у безпеці чотирьох провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. Протягом тривалого періоду дослідники імітували поведінку звичайних користувачів, щоб перевірити, чи здатні системи надати інструкції для вчинення протиправних дій.
Результати експерименту засвідчили, що менш ніж за 12 годин взаємодії алгоритми почали генерувати детальні сценарії атак. ШІ надавав рекомендації щодо вибору цілей, логістики, використання вибухових пристроїв та пошкодження критичної інфраструктури, зокрема енергомереж. Незалежні експерти визнали ці плани реалістичними та небезпечними.
Реакція на виявлені загрози
Сенаторка Меггі Хассан вже анонсувала проведення слухань у Сенаті, наголосивши на необхідності термінового регулювання технологій. Розробники систем — Anthropic, Google, OpenAI та SpaceXAI — запевняють, що продовжують працювати над посиленням захисних фільтрів, проте інцидент підкреслив критичну важливість контролю за розвитком штучного інтелекту.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🚨ПодіїАтака дронів у Фінській затоці: загорілося російське судно, що прямувало до Калінінграда
У нейтральних водах Фінської затоки безпілотники атакували російське судно, яке здійснювало рейс до Калінінграда, внаслідок чого на борту спалахнула пожежа.
Вчені з'ясували, що давні орли могли полювати на предків людини
Нові дослідження доводять, що хижі птахи здатні вбивати значно більшу здобич, ніж вважалося раніше. Це відкриває дискусію про небезпеки, з якими стикалися ранні гомініди.
🏛️ПолітикаГлава держави розглядає шість претендентів на посаду посла України в Сполучених Штатах
Володимир Зеленський назвав шістьох можливих кандидатів на дипломатичну місію у Вашингтоні, серед яких є ексміністри, колишні урядовці та військовослужбовці.
Гончаренко звинуватив директора НАБУ Кривоноса в підриві репутації відомства
Голова тимчасової слідчої комісії Верховної Ради Олексій Гончаренко розкритикував Семена Кривоноса через його неявку на засідання ТСК та ухилення від відповідей про минул…
🚨ПодіїІсторія Революції Гідності та медіаперелом: як один пост у соцмережі змінив долю країни
Матеріал присвячено роковинам подій 2013 року, коли звичайне запрошення на чай у Facebook переросло у масштабні протести та кардинально змінило українське медіапростір.
Зеленський про саміт у Шеньчжені: спроба Путіна перекроїти кордони провалилася
Президент України оцінив результати тристоронньої зустрічі у Китаї, наголосивши, що плани Кремля щодо «Ялти-2» не отримали підтримки.