Маск и Возняк призвали остановить работу над системами искуственного интеллекта
Основатель компании SpaceX Илон Маск, сооснователь Apple Стив Возняк и еще более 1000 экспертов призвали приостановить обучение более мощных систем искусственного интеллекта (ИИ), чем недавно представленная GPT-4. Открытое письмо опубликовано на сайте некоммерческой организации «Future of Life». В письме говорится, что системы ИИ могут представлять серьезные риски для человечества, поэтому необходимо разрабатывать и управлять ими...
<strong>Основатель компании SpaceX Илон Маск, сооснователь Apple Стив Возняк и еще более 1000 экспертов призвали приостановить обучение более мощных систем искусственного интеллекта (ИИ), чем недавно представленная GPT-4. Открытое письмо <a href="https://futureoflife.org/open-letter/pause-giant-ai-experiments/">опубликовано</a> на сайте некоммерческой организации "Future of Life".</strong>
В письме говорится, что системы ИИ могут представлять серьезные риски для человечества, поэтому необходимо разрабатывать и управлять ими с осторожностью. Однако вместо этого лаборатории ИИ оказались втянуты в бесконтрольную гонку за разработкой и внедрением все более мощных "цифровых умов", которые даже их создатели не могут контролировать.
"Современные системы ИИ становятся конкурентоспособными по сравнению с человеком в решении общих задач, и мы должны спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места? (...) Должны ли мы рискнуть потерей контроля над нашей цивилизацией?" — вопрошают авторы письма.
По их мнению, мощные системы ИИ можно разрабатывать, только убедившись, что их эффект будет положительным, а риски управляемыми. "Поэтому мы призываем все лаборатории ИИ немедленно приостановить, по крайней мере на шесть месяцев, обучение системам ИИ, более мощным, чем GPT-4", — говорится в обращении.
За это время, по словам подписантов, специалисты должны принять протоколы безопасности для разработки ИИ.
Маск уже высказывал опасения из-за разработок ИИ. Как <a href="https://archive.is/7WOVl#selection-1937.0-1945.271">заявил</a> миллиардер в интервью New York Times, "умные люди не думают, что компьютер когда-либо сможет быть таким же умным, как они", но это ошибочное представление. "Мы приближаемся к ситуации, когда ИИ станет значительно умнее людей", — сказал Маск, добавив, что это может произойти в течение пяти лет.