создайте профиль
Если роботам не объяснить ценность человеческой жизни, они могут начать убивать нас из добрых побуждений
Предупреждение было высказано Нелл Уотсон, инженером из Амстердама, на недавней конференции
Будущие поколения людей могут быть истреблены роботами, если машины не научатся ценить человеческую жизнь. Такое заявление сделала голландский инженер Нелл Уотсон, которая считает, что машины могут начать убивать людей и из дурных побуждений, и из добрых.
Нелл Уотсон, инженер из АмстердамаВажнее всего объяснить им абсолютную ценность человеческой жизни, сказала Уотсон на недавней конференции по эволюции медиа в Швеции.
Уотсон полагает, что совсем скоро компьютерные чипы достигнут уровня аналитических способностей шмеля, что позволит им анализировать социальные ситуации и окружающую их среду. Машины будут знать об окружающем мире и, в какой-то степени, о себе самих. Это станет причиной серьезных изменений. Уже сегодня Google разрабатывает автономный автомобиль, самостоятельно выбирающий направление движения и скорость. Японские компании лидируют в создании роботов, помогающих по хозяйству старикам и инвалидам.
В этом ее слова перекликаются со словами Илона Маска, основателя Tesla, заявившего, что искусственный интеллект потенциально может быть опаснее ядерного оружия. Эта мысль пришла ему в голову при прочтении книги Ника Бострома «Суперинтеллект: пути, опасности, стратегии». Кстати, Бостром считает, что человечество живет в компьютерной симуляции, а тот мир, который мы знаем — подделка под реальность. Позднее Маск написал: «Надеюсь, что мы не просто биологический загрузчик цифрового суперинтеллекта. К сожалению, вероятность этого растет».
Предприниматель настолько обеспокоился проблемой искусственного интеллекта, что сделал инвестиции в компанию Vicarious, работающую в этой сфере. Маск пошел на это не в ожидании прибыли, а для того, чтобы следить за разработкой искусственного интеллекта. В эту же компанию вложили свои средства основатель Facebook Марк Цукерберг и актер Эштон Катчер.
Сейчас Vicarious работает над программой, имитирующей работу неокортекса — коры головного мозга. Этот участок отвечает за высшую нервную деятельность: сознательные мысли, речь, ориентацию в пространстве и восприятие. В октябре 2013 года компания заявила, что созданная ей программа научилась обходить Captcha — тесты, которые отделяют людей от роботов при входе на некоторые сайты.
Известный физик Стивен Хокинг тоже считает, что искусственный интеллект представляет собой опасность для человечества. В статье для Independent ученый написал:
