Мэттью Мэзер «Darknet»

Первая книга этого автора, которую я прочел и которая меня впечатлила. Если бы я начал знакомство с Nomad, то впечатление было бы менее глубоким при том, что и Nomad — очень сильная вещь. Сейчас считается, что ИИ сможет принимать участие в совещаниях топ-менеджеров до 2026 года. То есть ему будет доступно свободное общение на естественном языке. То есть если эта книга и фантастика, то очень ближнего прицела. Впрочем, пугает не это, само по себе, а наличие мотивации ИИ маскировать себя, выдавая за человека. Эмоциональный, человекоподобный ИИ — да, это подлинная угроза, что книгой в полной мере и показано. Потому что источник мотивации может быть не очевиден, не выводим из каких-то эмпирических (и, тем более точных) закономерностей. И, что еще хуже, «эмоциональные мотивации» тоже могут быть только человеческим представлением, не соответствующим реальности. Мы способны сочувствовать животным и можем видеть в них врагов, в зависимости от обстоятельств. Это связано с тем, что у нас тоже — живые тела, которые имеют в чем-то схожие с, по крайней мере млекопитающими, ощущения. Но ИИ, сколь бы человекоподобным он ни выглядел — другой. Даже если он будет во всем «положительным», те пути, которыми он выучился и развился могут оказаться недоступными полному пониманию. И это не «чужая душа — потемки», а самый черный ящик на свете. В общем, книга заставила задуматься.