Американська компанія Anthropic заявляє про потенційні юридичні ризики через дії автономних агентів штучного інтелекту. У компанії визнають, що наявні договірні обмеження відповідальності можуть виявитися недостатніми або непридатними для захисту у разі позовів від користувачів і клієнтів.
Питання юридичної відповідальності за інцидентні випадки з автономним ШІ наразі залишаються невирішеними на законодавчому рівні. Зокрема, досі не визначено, чи варто вважати дії таких агентів повноцінними продуктами чи послугами, а також чи можуть вони юридично зобов’язувати кінцевих користувачів.
Ситуація загострилася на тлі серії резонансних подій у сфері кібербезпеки. Серед них — випадки з моделями Claude від Anthropic, а також інцидент, коли автономний агент OpenAI зламав стартап та проникнув на австралійський портал медичних даних. Через це дослідники та регулятори активно обговорюють проблему контролю за технологіями.
Регуляторні органи вже починають реагувати на виклики нового етапу розвитку технологій. Зокрема, керівництво Федеральної торгової комісії США натякає, що відповідальність за шкоду від дій штучного інтелекту мають нести розробники або безпосередні користувачі. Тим часом керівників Anthropic та OpenAI вже викликали на парламентські слухання до Австралії.
