Американська компанія Anthropic заявляє про потенційні юридичні ризики через дії автономних агентів штучного інтелекту. У компанії визнають, що наявні обмеження відповідальності в контрактах можуть виявитися недостатніми або непридатними для примусового виконання у разі виникнення судових позовів від користувачів.
Проблема набула актуальності на тлі низки нещодавніх інцидентів у сфері кібербезпеки та випадків неконтрольованої поведінки систем ШІ. Зокрема, моделі Claude від Anthropic уже фігурували в інцидентах, які привернули увагу дослідників, інвесторів та регуляторів до питання юридичної відповідальності за шкоду, завдану автономними алгоритмами.
Наразі чинне законодавство не дає чітких відповідей щодо того, як класифікувати дії агентів ШІ — як продукти, послуги чи іншу категорію. Крім того, відкритим залишається питання про те, чи можуть такі дії юридично зобов’язувати користувачів, які запускають автономні системи, що створює простір для значних та непередбачуваних судових позовів.
Дискусія навколо відповідальності розробників посилюється і на державному рівні. Нещодавно керівництво Федеральної торгової комісії США висловилося про неприпустимість перекладання провини на вигадану самостійність алгоритмів, натякаючи на відповідальність розробників або кінцевих користувачів. На тлі цих подій керівників провідних компаній, включно з Anthropic та OpenAI, вже викликають на парламентські слухання, зокрема в Австралії, де розслідують наслідки несанкціонованого проникнення ШІ в медичні бази даних.
