Николай Подосокорский (philologist) wrote,
Николай Подосокорский
philologist

Category:

Григорий Бакунов: "С приходом алгоритмов человечество откажется от морали"

Из лекции Григория Бакунова, директора по распространению технологий «Яндекса», прочитанной в Уральском федеральном университете в рамках Дня открытых дверей IT-отрасли. Полностью можно прочесть на сайте издания Znak.



Есть ребята, которые придумали гениальную конструкцию — браслет, на котором нажимаешь кнопку — и на руку проецируется экран. Только одна проблема: каждый день нужно брить руку. Через 15–20 лет мы должны прийти к проекции непосредственно в мозг или на сетчатку глаза без дополнительных приборов. Думаю, это возможно. Мы и сейчас в принципе в состоянии разобрать часть сигнала в зрительном нерве, то есть чисто теоретически можно поставить чип на зрительный нерв, который создает картинку. Это, как мне представляется, идеальное будущее. В промежутке между ним и текущим моментом будут голографические экраны, проекции в воздух, когда требуется большой объем информации. Но среднему человеку большой объем информации не нужен, средний человек нормально воспринимает информацию и на слух.

Естественный способ общения с компьютером — управление с помощью мысли: представил что-то — и оно реализовалось. Но так как большинство отказывается сверлить себе голову и вставлять туда джек, пока обойдемся голосом, это самое доступное приближение к управлению мыслями прямо сейчас.

Мы активно движемся к тому, чтобы осуществлять образы из фантастических произведений. Большая часть современных изобретений — не то, что мы изобрели сами, а что мы взяли из книг писателей-фантастов 30–40-летней давности. Практически все, что мы сейчас видим — современные компьютеры, социальные сети, голосовые интерфейсы, — было в книгах и даже фильмах 30 лет назад. Просто люди вырастают и реализуют то, что хотели бы видеть в детстве. Так вот, 30–40 лет назад очень часто описывались компьютеры, с которыми люди разговаривают голосом. Многие фантасты и кинорежиссеры делали это в первую очередь для того, чтобы создать ощущение будущего. И ап! — оно здесь.

Я долго работал с ребятами, которые делают «Алису» — это один из моих ранних проектов, — и просил их: сделайте так, чтобы «Алиса» могла сама обращаться к людям, с которыми разговаривает. Не так, чтобы ты нажал кнопку — и только тогда она тебе что-то ответила, а чтобы она сама инициировала беседу. Сейчас мы воспринимаем наших голосовых ассистентов как рабов, как что-то, что только выполняет функцию. Но это отношение меняется в тот момент, когда они начинают сами к нам обращаться. Работы в этом направлении ведутся.

Помните, в «Матрице» компьютеры занимались тем, что разводили людей, как коровок. По текущим оценкам, более трети пар знакомятся и начинают общаться в Интернете, в компьютерной среде, где людей друг другу рекомендуют алгоритмы. Нет никакой гарантии, что Facebook уже не занимается нашим «разведением». Что уж говорить об образовании и обучении.

Но есть области, в которых от людей будут отказываться в последнюю очередь. Искусственный интеллект пока не действует в медицине. Есть пример, когда операцию провел робот, дистанционно управлявшийся живым человеком, врачом, который находился за шесть тысяч километров. Но робот может провести только эту операцию, и это очень простая операция по иссечению простаты. И это не очень большой прогресс, потому что хирургия в этой конкретной операции не изменилась с 1860-х годов. То есть особого прогресса в медицине нет. Плохого врача машина может заменить уже сейчас, лучших врачей в ближайшее время — нет.

Скорее всего, люди останутся в сфере воспитания. Это связано с тем, что наше общество построено на морали. И до тех пор, пока мы не изживем мораль, мы будем сталкиваться с такими «костылями». Почему плоха мораль? У человечества в среднем есть два закона. Закон, который описан в виде конституции, уголовного, административного права и так далее. Там все четко алгоритмизировано, все прописано. И есть мораль, когда говорится: не убивай, но если врага — то можно; того, кто убил 50 человек — можно, а если не 50 человек, а 5 миллионов, то, может, он и хороший человек. Мораль очень зыбкая штука, которая трактуется свободно. Она изначально придумана, чтобы одним говорить «так нельзя», а другим — «можно». Было бы классно, если бы все эти условия тоже были перенесены в закон: при введении военного положения статья такая-то отменяется, а если вы убили врага, вам полагается премия в размере 50 тысяч рублей, и так далее. Рано или поздно с приходом алгоритмов человечество будет вынуждено отказаться от морали. Кстати, следующим шагом люди начнут отказываться от принудительного родительства, потому что некоторые родители пытаются уйти от ответственности, и таких людей много.

Что делать с людьми, которые высвободятся? У человечества уже есть такой опыт, мы пережили уже несколько «эпидемий», когда какие-то виды человеческой деятельности заменялись или вообще теряли свою актуальность. В 1962 году в Лондоне резко объявили о запрете дровяных печей для обогрева жилых помещений, за один день потеряли работу 40 тысяч человек — трубочистов. Так вот, 40 тысяч человек — это «копейки». У нас в стране водителями работают больше миллиона человек, и когда на дорогах реального пользования появятся автомобили, которые ездят сами по себе, большая часть этих людей останется без работы.

Когда я хочу показать оптимистичную картину мира, говорю: представляете, все эти люди наконец смогут заняться чем-то интересным для себя. Но на самом деле мы не знаем, чем они будут заниматься. И «первые ласточки» этой проблемы полезут уже в 2020–2021 годах. Я поучаствовал в нескольких проектах по автоматизации колл-центров, я видел, как компания выпустила «на волю» 5 тысяч «птенцов», которым теперь где-то нужно найти пропитание.

Нет таких областей человеческой деятельности, которые потенциально не автоматизируемы. И это большая проблема. Что делать всем этим людям — большой и сложный вопрос. На эту тему я готов разговаривать с любыми людьми в правительстве. Но пока у них особенного интереса к этому нет. Мы готовы, но они еще не приходят. У нас же как: пока в одном месте не рванет, остальные безопасностью не займутся. Когда «рванет» какая-то одна область человеческой жизни, когда за один день потеряют работу 100 тысяч человек, в этот момент забегают все правительства мира. Пока же никто ничего особенного не делает.

Вы также можете подписаться на мои страницы:
- в фейсбуке: https://www.facebook.com/podosokorskiy

- в твиттере: https://twitter.com/podosokorsky
- в контакте: http://vk.com/podosokorskiy
- в инстаграм: https://www.instagram.com/podosokorsky/
- в телеграм: http://telegram.me/podosokorsky
- в одноклассниках: https://ok.ru/podosokorsky

Tags: facebook, Уральский Федеральный университет, Яндекс, воспитание, искусственный интеллект, медицина, мораль, работа, технологии
Subscribe

Posts from This Journal “искусственный интеллект” Tag

promo philologist 02:08, sunday 1
Buy for 100 tokens
Робин Гуд / Изд. подг. В.С. Сергеева. Пер. Н.С. Гумилева, С.Я. Маршака, Г.В. Иванова, Г.В. Адамовича и др. — М.: Наука; Ладомир, 2018. — 888 с. (Литературные памятники). Желающие приобрести это издание могут обратиться непосредственно в издательство. Контакты издательства:…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 11 comments