Николай Подосокорский (philologist) wrote,
Николай Подосокорский
philologist

AI: Опасна ли нам сингулярность?

Сергей Николенко – директор по науке в Neuromation

В последнее время рассуждения об искусственном интеллекте (AI) в популярных изданиях начинают принимать всё более алармистский оборот. Одни пытаются доказать, что AI якобы вытеснит с рынка 90% людей, обрекая их на безработицу и прозябание. Другие идут дальше и задаются вопросом: не создаёт ли человечество себе в лице искусственного интеллекта экзистенциальный риск, с которым не сравнится никакая водородная бомба? Давайте попробуем разобраться.



Сторонники рассматривать AI как экзистенциальный риск обычно имеют в виду сценарий «взрыва интеллекта», при котором сильный AI получает возможность улучшать себя (например, переписывать части программного кода), тем самым становясь ещё «умнее», что приводит к возможности более радикальных улучшений и так далее. Подробней об этом можно прочесть, например, в AI-Foom debate между Робином Хансоном и Элиэзером Юдковским, которые обсуждают в точности этот сценарий. Основная опасность здесь заключается в том, что задачи «взорвавшегося» искусственного интеллекта могут не соответствовать целям и задачам человечества. Избитый в этой теме пример: если «целью жизни» сильного AI было вполне невинное производство канцелярских скрепок, то через неделю-другую после «взрыва» Земля вполне может оказаться полностью покрыта автоматизированными фабриками двух типов – производящими скрепки и производящими космические корабли, которые позволят начать производить скрепки на других планетах…

( Читать дальше... )

Вы также можете подписаться на мои страницы:
- в фейсбуке: https://www.facebook.com/podosokorskiy

- в твиттере: https://twitter.com/podosokorsky
- в контакте: http://vk.com/podosokorskiy
- в инстаграм: https://www.instagram.com/podosokorsky/
- в телеграм: http://telegram.me/podosokorsky
- в одноклассниках: https://ok.ru/podosokorsky

Tags: искусственный интеллект
Subscribe

Posts from This Journal “искусственный интеллект” Tag

promo philologist november 4, 02:34 1
Buy for 100 tokens
Боккаччо Дж. Декамерон: В 4 т. (7 кн.) (формат 70×90/16, объем 520 + 440 + 584 + 608 + 720 + 552 + 520 стр., ил.). Желающие приобрести это издание могут обратиться непосредственно в издательство. Контакты издательства: ladomirbook@gmail.com; тел.: +7 499 7179833. «Декамерон»…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 2 comments