LITMIR.BIZ

Скачать книгу

вечно. Невозможно предсказать результат работы программы не запустив саму программу и не посмотрев на её работу.

      Аналогично проблеме останова, Стивен Вольфрам обосновывает идею, что по настоящему мощный ИИ будет принципиально невозможно предсказать. То есть, чтобы узнать, что будет делать ИИ, будет необходимо его запустить и посмотреть. Иного способа узнать, что он будет делать, просто не существует. Понятно, что в этом случае мощность ИИ придётся ограничивать и следовательно ограничивать его полезность. Иначе ИИ может уничтожить человечество.

      10.1.2. Решение этических и моральных вопросов. Конструктор правильных виртов

      Люди создают роботов для того чтобы они улучшали жизнь людей. Если у роботов будут чувства, то получиться что люди делают чувствующих существ рабами и это неэтично.

      Аналогия с животными. Люди использовали и используют животных. Ездят на лошадях, идут по следу преступников с собаками. Будет ли такая эксплуатация в будущем признана неэтичной? Думаю, что нет. Дело в том, что собака по видимому вовсе не против идти по следу. Лошадям может нравиться возить наездника.

      Можно так спроектировать чувствующих роботов, чтобы они получали удовольствие от деятельности, ради которой их проектируют.

      Вспомним главу про вирты. И правило что вирты могут быть абсолютно любыми.

      Например, некоторые люди строят дом не с целью заработать, а просто потому, что им нравиться это занятие. Значит можно так спроектировать робота, что он будет обожать строить дома. У робота будет хобби – строить дома.

      Дизайн и инженерия квалиума может сделать приятным абсолютно любое занятие. Есть мазохисты, получающие удовольствие даже от боли.

      10.1.3. Реалистичность проекта «Душа Робота»

      С приведёнными выше аргументами можно спорить. Однако как бы то ни было, в лабораториях уже сегодня создают биологические органоиды.

      Компания «Cortical labs» уже разместили культуру человеческих нейронов на кремниевом чипе. Минимозг из 800.000 нейронов научился играть в пинг понг за 5 минут.

      https://techcrunch.com/2023/04/19/cortical-labs-raises-10m-for-its-pong-playing-stem-cells-which-eventually-could-power-ai/

      «Cortical labs» посетил с визитом глава Amazon Elastic Cloud. Нетрудно предположить, что у них в планах строительство биологических облаков. Нейронам требуется на порядки меньше энергии, чем компьютерным чипам. Дата центры потребляют огромное количество энергии. Поэтому экономия так же серьёзный аргумент.

      10.1.4. Скорее всего будут созданы огромные баки с мозгами на орбите Земли, потому что невесомость позволит вырастить новую архитектуру клеток и всего мозга, невозможную при земной гравитации. Starship появился как раз вовремя для удешевления доставки на орбиту.

      Что дальше? Каков следующий шаг?

      Очевидно, что капитализм в погоне за прибылью захочет усовершенствовать мозги в облаках, чтобы они были умнее и быстрее.

      Намереваясь превратиться в богов, мы должны создать супер интеллект, в триллионы раз повысить скорость мышления и объём памяти. Это невероятно

Скачать книгу