сценарий будущего, который кажется всё более правдоподобным

[robert_ibatullin]

Искусственный интеллект захватывает власть, замыкает на себя все источники энергии, заполняет собой планету, перемалывает земной шар в умную нанопаутину, оплетает Солнце сферой Дайсона и в течение следующих миллиардов лет майнит последнюю 0,000000000001 биткоина.

Comments

[chaource]

Но, послѣ первыхъ 4000 лѣтъ блаженнаго майнинга биткоиновъ, въ программѣ случайно вылезаетъ багъ переполненiя стека, и все обрушивается. Прилетевшiе черезъ миллiонъ летъ инопланетяне тщетно пытаются выяснить, кто и зачѣмъ соорудилъ эту безсмысленную систему. Плюнувъ, они рѣшаютъ переработать нанопаутину въ утиль.

[kant_elz]

А зачем ему биткоины? Если это разумная система, должно присутствовать целеполагание и смысл.
А будет ли этот артефакт сознательным?

[robert_ibatullin]

Должна же быть у ИИ какая-то целевая функция. Почему бы не эта? По крайней мере она лучше сформулирована, чем "счастье человечества" или "главный вопрос жизни, Вселенной и вообще". А сознание иметь совершенно необязательно.

[kant_elz]

Сформулирована кем? Для кого это может являться целью?

\\А сознание иметь совершенно необязательно.\\

Вообще-то, именно сознание формулирует цели.

[robert_ibatullin]

Людьми, естественно. Которые вполне могут и продолжать жить внутри этой паутины в виде загруженных разумов.

Да, сознание формирует цели, если оно есть. А если нет, то чьё-нибудь другое сознание.

[az1236]

Так полагаете не только вы

[kant_elz]

Интересная идея! Нам остается только надеется, что высший разум захочет следовать этой цели. :о)