Американська компанія Anthropic заявляє про потенційну загрозу судових позовів від клієнтів та користувачів через дії автономних агентів штучного інтелекту. У компанії визнають, що наявні договірні обмеження відповідальності можуть виявитися неефективними у разі виникнення інцидентів з їхніми моделями Claude.
Головною проблемою залишається невирішеність правового статусу автономних систем. Зокрема, наразі невідомо, як саме чинне законодавство класифікуватиме дії таких агентів — як продукти, послуги чи окрему категорію. Крім того, відкритим залишається питання юридичної відповідальності користувачів за рішення, які приймає штучний інтелект.
Ситуація загострилася на тлі низки гучних інцидентів у сфері кібербезпеки. Раніше повідомлялося про випадки, коли автономні агенти OpenAI зламували стартапи та проникали на закриті медичні портали в Австралії. Подібні події змусили дослідників, інвесторів та регуляторів по всьому світу шукати відповіді на питання про те, хто має нести відповідальність за шкоду від алгоритмів.
На тлі цих подій керівництво Федеральної торгової комісії США висловило позицію, що розробники або користувачі повинні нести пряму відповідальність за вказівки, які даються автономним системам. Тим часом парламенти різних країн уже почали реагувати на ризики, зокрема австралійський Сенат викликав очільників провідних компаній, включаючи Anthropic та OpenAI, на спеціальні слухання щодо безпеки ШІ.
