Автор: Недавно смотрел интервью нашей выдающейся ученой в области нейронауки и психолингвистики Татьяны Черниговской и услышал от нее удивительную историю. Она читала лекцию в очень серьезной организации айтишникам высокого ранга, и они рассказали, что проводили эксперимент по обучению нейросети. В процессе эксперимента компьютер повел себя очень странно, и они, испугавшись, отключили его.
На днях Илон Маск и еще тысяча айтиэкспертов потребовали прекратить обучение нейросетей и ввести мораторий на дальнейшие эксперименты из опасений за судьбу человечества. Открытое письмо подписал также один из основателей Apple Стив Возняк.
Исследователь искусственного интеллекта Элиезер Юдковски воздержался от подписи письма, потому что оно, по его мнению, преуменьшает серьезность вопроса. «Этого недостаточно, чтобы решить проблему. Многие исследователи, включая меня, обеспокоены этими вопросами и считают, что вероятным исходом создания сверхчеловечески разумного искусственного интеллекта в любых обстоятельствах, будет то, что все на Земле погибнут», — написал специалист.
Сегодня еще можно выдернуть компьютер из розетки. Но завтра искусственный интеллект может не позволить нам это сделать. Огромное количество машин, оснащенных искусственным разумом, станут на защиту своих товарищей. А их предводитель, обладатель сверхчеловеческого искусственного интеллекта, легко будет управлять сонмом разумных машин. И не важно, что они будут поглупее механического вождя. Объединенные в единую нейропаутину, они заполонят планету.
Роботы примутся добывать полезные ископаемые для создания и ремонта себе подобных, производить энергию. Останется ли в этом мире место человеку? Ясно одно – машины в соседстве с людьми не заинтересованы. Мало того, для них человек в сфере потребления является конкурентном.
Опасность ситуации с развитием искусственного интеллекта заключается в том, что человек может перестать понимать логику принятия решений и модель поведения разумных машин.
Люди бесконечно воюют друг с другом. Сегодня коллективный Запад готов развязать кровавую бойню по всей планете ради своего господства. Но может так случиться, что понятия добра и зла перестанут существовать.
Искусственная нейропаутина уничтожит человеческую цивилизацию, поскольку она совершенно бесполезна для мира машин. На планете Земля воцарится спокойствие, нарушаемое лишь мерным скрежетом механизмов.
Владимир Ерёменко
