New Scientist: IT-корпорации переманили философов для контроля безопасности ИИ

Ведущие технологические компании начали массово привлекать специалистов по этике, чтобы избавить нейросети от опасных сбоев и заложить основы машинной морали.

Индустрия искусственного интеллекта столкнулась с нехваткой специфических компетенций, пишет New Scientist.

Ведущие разработчики предлагают ученым высокие зарплаты и опционы, чтобы те помогли сделать алгоритмы более надежными. Специалисты пытаются разгадать тайну человеческого разума и понять возможность его программного копирования.

«Темы, десятилетиями изучавшиеся на философских кафедрах – как принимать рациональные решения, систематизировать моральные принципы, что считать мышлением или доказательством сознания – внезапно обрели огромную ценность. Поэтому мы наблюдаем колоссальную утечку мозгов», – заявил Джонатан Бирч из Лондонской школы экономики.

Главной задачей новых сотрудников стало согласование ценностей и блокировка инструкций по созданию опасных предметов. Простые запреты оказались неэффективными, поэтому компании внедряют сложные методы на основе глубокого понимания добра и зла. Философы также помогают бороться с галлюцинациями нейросетей и системными искажениями логики.

Эксперты отмечают историческую связь между этими дисциплинами. Анализ рынка труда показывает, что 26,6% предложений упоминают этику и безопасность алгоритмов. Однако лишь 5% позиций реально предполагают глубокую научную работу в этой сфере.

Как писала газета ВЗГЛЯД, компания OpenAI внедрила систему родительского контроля в ChatGPT из-за опасных ответов бота.

Руководство корпорации Anthropic отказалось от участия в проектах по созданию летального автономного вооружения.

Эксперты в Москве рассмотрели вопросы законодательного регулирования искусственного интеллекта.