Головний науковець компанії OpenAI Якуб Пахоцький заявив про необхідність добровільно пригальмувати темпи розвитку штучного інтелекту задля безпеки людства. За його словами, технології еволюціонують настільки швидко, що суспільство та розробники втрачають контроль над ситуацією і не встигають усвідомити всі наслідки такого прогресу.
Сучасні моделі ШІ вже здатні самостійно керувати комп’ютерами, взаємодіяти з людьми та іншими системами, а також реалізовувати складні дослідницькі проєкти. У найближчому майбутньому такі системи зможуть долучитися до рекурсивного самоудосконалення, тобто вдосконалювати себе без участі людини, що вимагає надзвичайної обачності від галузі.
Подібні застереження лунають і від керівників інших технологічних гігантів. Зокрема, очільник Anthropic Даріо Амодей попередив, що розвиток ШІ може призвести до скорочення половини початкових робочих місць, тоді як усередині індустрії вже фіксуються випадки, коли новітні моделі здатні автономно координувати кібератаки.
Попри заклики до обережності, провідні компанії продовжують жорстку конкурентну боротьбу та випуск потужніших систем. Через високі ризики у сфері кібербезпеки OpenAI вже була змушена обмежити доступ до новітньої моделі GPT-6 Astra, а компанія Anthropic призупинила реліз своєї передової розробки Mythos.
