Николай Подосокорский (philologist) wrote,
Николай Подосокорский
philologist

Categories:

AI: Опасна ли нам сингулярность?

Сергей Николенко – директор по науке в Neuromation

В последнее время рассуждения об искусственном интеллекте (AI) в популярных изданиях начинают принимать всё более алармистский оборот. Одни пытаются доказать, что AI якобы вытеснит с рынка 90% людей, обрекая их на безработицу и прозябание. Другие идут дальше и задаются вопросом: не создаёт ли человечество себе в лице искусственного интеллекта экзистенциальный риск, с которым не сравнится никакая водородная бомба? Давайте попробуем разобраться.



Сторонники рассматривать AI как экзистенциальный риск обычно имеют в виду сценарий «взрыва интеллекта», при котором сильный AI получает возможность улучшать себя (например, переписывать части программного кода), тем самым становясь ещё «умнее», что приводит к возможности более радикальных улучшений и так далее. Подробней об этом можно прочесть, например, в AI-Foom debate между Робином Хансоном и Элиэзером Юдковским, которые обсуждают в точности этот сценарий. Основная опасность здесь заключается в том, что задачи «взорвавшегося» искусственного интеллекта могут не соответствовать целям и задачам человечества. Избитый в этой теме пример: если «целью жизни» сильного AI было вполне невинное производство канцелярских скрепок, то через неделю-другую после «взрыва» Земля вполне может оказаться полностью покрыта автоматизированными фабриками двух типов – производящими скрепки и производящими космические корабли, которые позволят начать производить скрепки на других планетах…

( Читать дальше... )

Вы также можете подписаться на мои страницы:
- в фейсбуке: https://www.facebook.com/podosokorskiy

- в твиттере: https://twitter.com/podosokorsky
- в контакте: http://vk.com/podosokorskiy
- в инстаграм: https://www.instagram.com/podosokorsky/
- в телеграм: http://telegram.me/podosokorsky
- в одноклассниках: https://ok.ru/podosokorsky

Tags: искусственный интеллект
Subscribe

Posts from This Journal “искусственный интеллект” Tag

Buy for 100 tokens
Вагинов К.К. Козлиная песнь: Роман / Подготовка текста, коммент. Д.М. Бреслера, А.Л. Дмитренко, Н.И. Фаликовой. Статья Н.И. Николаева. Статья И.А. Хадикова и А.Л. Дмитренко. Ил. Е.Г. Посецельской. — СПб.: Вита Нова, 2019. — 424 с.: 34+45 ил. — (Рукописи). ISBN 978-5-93898-699-2.…
  • Post a new comment

    Error

    Comments allowed for friends only

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 2 comments