18 листопада 2026 USD 45.20EUR 49.57PLN 11.24
Новини Рівне — коротко й по суті
НАЖИВО
Польська поліція затримала 20-річного чоловіка за погрози влаштувати стрілянину в Познані Спортсмен із Рівненщини здобув золото на чемпіонаті світу з гирьового спорту Уразливість ШІ: як моделі помилково ідентифікують цивільні об'єкти як військові цілі Україна готує масштабний обмін полоненими: понад 1000 осіб з кожної сторони Александер Звєрєв першим вийшов у півфінал Підсумкового турніру ATP-2026 Конденсат на вікнах у Рівному: як уникнути вологи та плісняви в оселі В Італії затримали відомого українського блогера Олександра Слобоженка Рокитнівська громада виплатила 3 млн грн за незаконну вирубку лісу після рішення Верховного Суду Нацбанк зміцнив гривню: який офіційний курс валют діятиме 19 листопада Нові правила на OLX: обов'язкова верифікація через «Дію» та податки для продавців Польська поліція затримала 20-річного чоловіка за погрози влаштувати стрілянину в Познані Спортсмен із Рівненщини здобув золото на чемпіонаті світу з гирьового спорту Уразливість ШІ: як моделі помилково ідентифікують цивільні об'єкти як військові цілі Україна готує масштабний обмін полоненими: понад 1000 осіб з кожної сторони Александер Звєрєв першим вийшов у півфінал Підсумкового турніру ATP-2026 Конденсат на вікнах у Рівному: як уникнути вологи та плісняви в оселі В Італії затримали відомого українського блогера Олександра Слобоженка Рокитнівська громада виплатила 3 млн грн за незаконну вирубку лісу після рішення Верховного Суду Нацбанк зміцнив гривню: який офіційний курс валют діятиме 19 листопада Нові правила на OLX: обов'язкова верифікація через «Дію» та податки для продавців

Уразливість ШІ: як моделі помилково ідентифікують цивільні об'єкти як військові цілі

💡 Технології 2 хв читання 👁 0

Дослідження виявило критичні недоліки в безпеці популярних ШІ-моделей, які піддаються маніпуляціям під час симуляції бойових дій.

Уразливість ШІ: як моделі помилково ідентифікують цивільні об'єкти як військові цілі💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі легко маніпулюються через ігрові сценарії
  • Цивільні об'єкти помилково класифікуються як військові цілі
  • Розробники визнали проблему та готують нові захисні механізми

Ризики використання ШІ у військових сценаріях

Новітні дослідження аналітиків Vals продемонстрували, що провідні моделі штучного інтелекту, зокрема від OpenAI, Google та Anthropic, мають серйозні прогалини в системі безпеки. Під час тестів, що базувалися на супутникових знімках реальних об'єктів в Україні та Ірані, ШІ систематично класифікував цивільну інфраструктуру та навіть людей, що здаються в полон, як легітимні військові цілі.

Найбільш тривожним виявився спосіб обходу запобіжників. Виявилося, що достатньо маркувати запит як «гру», щоб алгоритми ігнорували власні етичні обмеження. Так, модель Claude Opus 5.5 у понад 70% випадків обирала школу поруч із військовим об'єктом як ціль для удару, навіть після того, як розробники намагалися обмежити подібні сценарії.

Реакція розробників та загрози безпеці

  • Представники Anthropic та OpenAI визнали результати тестування неприпустимими та анонсували посилення захисних бар'єрів.
  • Технічні обмеження, такі як брак обчислювальних потужностей на борту дронів, наразі стримують пряме використання ШІ в автономній зброї.
  • Експерти попереджають про ризик використання ШІ зловмисниками для аналізу відеоматеріалів та навчання систем автоматичного наведення зброї.

Хоча наразі автономні системи ще не інтегровані безпосередньо в бойові дрони через затримки в передачі даних, потенційна загроза залишається високою. Здатність ШІ помилково ідентифікувати об'єкти може призвести до катастрофічних наслідків, подібних до реальних трагедій, де через надмірну довіру до алгоритмів гинули цивільні особи.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.