Будущее, которое нас ждёт. Эра нейрореволюции в симбиозе разума и искусственного интеллекта - Константин Сергеевич Савкин

Скачать книгу

Но не рискуем ли мы при этом создать системы, которые будут искажать реальность в угоду политкорректности?

      Если Вы просите Gemini (систему ИИ от Google) создать изображение отцов-основателей США, и она выбирает группу разнообразных женщин. Это фактически неверно.

      Хотя этот пример может показаться тривиальным, он поднимает серьезный вопрос: что произойдет, если мы создадим сверхинтеллект, запрограммированный на достижение определенных социальных целей, даже если эти цели противоречат исторической правде или объективной реальности?

      Инженерное искусство создания ИИ

      Создание искусственного интеллекта – это не только философская и этическая проблема, но и колоссальная инженерная задача.

      Существуют следующие базовые подходы к решению сложных инженерных проблем:

      1. Подвергайте сомнению требования.

      Требования всегда в какой-то степени глупы – даже самые умные люди могут ошибаться, и важно критически относиться к исходным предпосылкам.

      2. Попробуйте удалить шаг или компонент.

      Если вас не заставляют вернуть по крайней мере 10% того, что вы удалили, значит, вы удаляете недостаточно.

      3. Оптимизируйте и упрощайте.

      4. Ускорьте процесс.

      5. Автоматизируйте.

      Этот подход, иллюстрирует важность постоянного переосмысления и упрощения сложных систем. Это особенно актуально в контексте создания ИИ, где сложность систем растет экспоненциально.

      Проблемы на пути к сверхразуму

      Создание сверхинтеллекта сталкивается не только с теоретическими, но и с практическими проблемами. Одна из них – управление огромным количеством энергии, необходимой для работы суперкомпьютеров.

      Когда вы выполняете синхронизированное обучение, у вас есть все эти компьютеры, которые обучаются на уровне миллисекунд. Это как оркестр. И затем оркестр может перейти от громкого к тихому очень быстро, на подсекундном уровне. И тогда электрическая система как бы сходит с ума из-за этого»

      .

      Эта аналогия с оркестром прекрасно иллюстрирует сложность управления такими системами. Внезапные изменения в потреблении энергии на уровне десятков мегаватт несколько раз в секунду – это не то, к чему привыкли электрические системы.

      Гонка за превосходство в ИИ

      Создание искусственного общего интеллекта (AGI) часто описывают как гонку. Компании и страны соревнуются за то, чтобы первыми достичь этой вехи. Но насколько велико преимущество быть первым?

      Давайте скажем, если кто-то будет первым, другие не отстанут надолго. Я имею в виду, что они могут отстать на шесть месяцев или максимум на год.

      Это заявление поднимает интересные вопросы о природе прогресса в области ИИ.

      Если разрыв между лидером и преследователями действительно так мал, стоит ли рисковать безопасностью ради скорости? Или, может быть, более разумно сосредоточиться

Скачать книгу