«Они могут взломать мое тело, мозг, жизнь»: чего боятся главы IT-компаний и футурологи

На этой неделе в Давосе прошел 50-й юбилейный Всемирный экономический форум, на котором традиционно много говорили о технологиях. Но, несмотря на слоган tech for good, повестка вышла невеселой. Главным лейтмотивом стали гонка вооружений в технологиях, распад интернета на куски и риски, которые несут новые разработки. Рассказываем о самых важных темах техно-Давоса.

Фото: World Economic Forum / Benedikt von Loebell

Эта статья была написана специально для еженедельной рассылки Bell Tech. Подписаться на нее можно здесь.

Опасности искусственного интеллекта

Одна из главных дискуссий форума началась за день до его старта: в понедельник в Financial Times вышла колонка CEO Google Сундара Пичаи с говорящим заголовком: «Почему Google считает, что нам нужно регулировать ИИ». Вот его главные тезисы:

  • ИИ очень полезен: вот лишь три примера за последний месяц того, как Google применяет технологию с пользой. Nature опубликовал исследование компании о том, как ИИ может помочь врачам с большой точностью диагностировать рак молочной железы. Еще с помощью ИИ Google может прогнозировать погоду быстрее, чем все существующие технологии, а авиакомпания Lufthansa тестирует ИИ на базе облаков Google, чтобы снизить число задержек вылетов.
  • ИИ — как интернет, помогает не только общаться, но и дезинформировать. Технологии несут в себе риски, ИИ — вполне реальные: например, технологию уже задействовали для создания фейков, а распознавание лиц может использоваться во вред людям.
  • Технокомпании не справятся с регулированием сами. Да, Google вырабатывает собственные принципы в разработке ИИ: например, не создавать технологий для массовой слежки и нарушений прав человека. Но этого недостаточно. Государствам нужно выработать нормы, которые будут учитывать вопросы «безопасности, справедливости и подотчетности», чтобы сохранять баланс между потенциальным вредом и возможностями, которые дает технология.

https://youtu.be/OXcJw5tW9RY

«ИИ имеет потенциал улучшить жизни миллиардов человек, но самый большой риск в том, что он не справится с этой задачей. Только убедившись в том, что технология разрабатывается ответственно и на пользу каждому, мы можем вдохновить будущие поколения поверить в силу технологии так же сильно, как верю в нее я», — говорит Пичаи.

В Давосе о необходимости регулировать ИИ говорил и президент Microsoft Брэд Смит. «Мы не должны ждать, пока технология созреет, прежде чем начнем создавать принципы, этику и даже правила регулирования ИИ», — сказал он. А IBM объявила на форуме о создании IBM Policy Lab, лаборатории, которая должна заняться исследованиями и выработкой этих самых правил и норм.

У всех заявлений есть вполне понятное объяснение: технологии с использованием ИИ вызывают у людей все больше страхов и недовольства. Сейчас под ударом — распознавание лиц, которое в России так нравится Сергею Собянину.

  • В Сан-Франциско в мае 2019 года городской совет запретил полиции и спецслужбам использовать в своей работе эту технологию.
  • Такие же решения уже приняли соседний Окленд и город Сомервилл в штате Массачусетс.
  • В сентябре 2019 года власти штата Калифорния приняли закон, запрещающий использовать распознавание лиц в личных видеорегистраторах полицейских (его пока не подписал губернатор штата).
  • Теперь возможность моратория на технологию на ближайшие пять лет рассматривает Европейский союз.

И Google, и Microsoft активно разрабатывают технологии распознавания лиц. Но подходы к регулированию у компаний разные: пока Пичаи предлагает вообще ограничить применение технологий распознавания лиц из-за большого риска их «бесчестного применения», Смит сравнивает подобные запреты с тем, как можно использовать «мясорубку вместо скальпеля».

Белый Дом считает, что технологию нужно регулировать, но гибко, нельзя прибегать к «жестким моделям убийства инноваций». По мнению администрации Трампа, лучший способ избежать авторитарного использования ИИ — сделать так, чтобы Америка и ее союзники оставались «глобальными центрами инноваций».

США против китайских техногигантов

Чтобы ИИ развивался быстрее, необходимо появление другой важной технологии — 5G. Вокруг этой темы в Давосе тоже развернулись горячие дискуссии. Huawei, главный глобальный поставщик оборудования для 5G, уверена: несмотря на то что торговые отношения между Китаем и США налаживаются, американские власти продолжат давить на китайскую компанию. Об этом на форуме заявил основатель Huawei Жэнь Чжэнфэй, который был одной из главных звезд нынешнего Давоса.

Жэнь Чжэнфэй — один из самых эксцентричных и загадочных китайских миллиардеров. Отставной военный инженер, сделавший похожую на полувоенную секту компанию крупнейшим в мире производителем телеком-оборудования, — его историю мы рассказывали здесь.

Huawei попала в черный список минторга США в прошлом году. Из-за этого компания потеряла доступ к важным американским технологиям, в том числе к операционной системе Android, на которой работают все смартфоны Huawei вне Китая. Теперь в компании ждут новых бед — недавно Reuters со ссылкой на источники сообщило, что США готовятся ограничить Huawei поставки устройств с американскими компонентами.

«В этом году США могут усилить кампанию против Huawei, но я чувствую, что влияние на бизнес Huawei не будет значительным. К 2020 году у нас уже появился опыт и более сильная команда. Мы в большей степени уверены, что сможем пережить дальнейшие атаки», — заявил на форуме Жэнь.

И для этого есть основания: последние несколько лет компания активно инвестирует в собственные микросхемы и ПО и уже выпустила операционную систему HarmonyOS — правда, пока еще не установила ее ни на один смартфон. Жэнь на форуме сказал, что у компании есть план Б на случай нового витка конфликта. На это Huawei тратит сотни миллиардов долларов: «Именно поэтому мы выжили в первом раунде».

https://youtu.be/bW2BDBc7a2o

Холодная технологическая война

Технологическая война, которую ведут США и Китай, отразится на всех — в этом сошлись большинство выступавших на Давосе. Она ведет к балканизации интернета (об этом мы писали в одной из прошлых рассылок).

«Торговля, безопасность, вся жизнь сегодня — это технологии, поэтому мы говорим о полной холодной войне между несколькими блоками», — заявил в Давосе президент индийского исследовательского фонда Observer (ORF) Самир Саран. Фрагментация интернета играет на руку только техногигантам, которые могут к ней адаптироваться, и вредит стартапам, ограничивая их перспективы роста, вторила ему основательница Cloudflare Мишель Затлин — и это при том, что большинство стран пытаются ограничить влияние технокорпораций, которые в новой реальности получили слишком большой контроль за данными пользователей.

Развитие технологий, вроде ИИ и 5G, ведет к тому, что гонка вооружений переходит на новый уровень, считает историк Юваль Ной Харари: «Вам не нужно отправлять солдат, если у вас есть все данные о стране». Век цифрового наблюдения закончится тем, что в мире не останется ни одного человека, который будет вне геополитики, предсказывает он:

«Мы находимся в точке, когда компании или правительства могут “взломать” миллионы людей, узнать их медицинскую историю и личные слабости… Если у вас есть достаточно знаний и мощностей, вы можете взломать мое тело, мозг, жизнь, достичь точки, когда вы знаете меня лучше, чем я сам».

https://youtu.be/kMKW8NA19rE

Персональные данные и здоровье

Через 20 лет мы не узнаем систему здравоохранения, ведь на нее нацелились глобальные техногиганты, предрекала в Давосе футуролог Эми Уэбб из Нью-Йоркского университета. Google, Amazon и Apple изменят индустрию здравоохранения — все, от диагностики и разработки новых лекарств до способов общения пациентов и врачей.

У технокомпаний есть огромные объемы данных, но при этом они не ограничены медицинской тайной. Кроме того, они создают гаджеты и устройства, которые позволят узнать о вас еще больше: Apple Watch, голосовые помощники вроде Alexa, фитнес-браслеты Fitbit, производителя которых Google недавно купил за $2,1 млрд.

Впрочем, другой амбициозный медицинский проект Google — поисковик для врачей, который разрабатывает Health-подразделение компании, пока борется с трудностями. Через свои облачные сервисы компания пытается получить доступ к данным как можно большего числа американских клиник, чтобы сделать поисковую систему по медицинским данным и помочь врачам лучше ставить диагнозы. Но далеко не все больницы хотят передавать гиганту персональные данные пациентов, хотя некоторые крупные клиники уже договорились с Google о партнерстве.

На форуме в Давосе CEO Google Сундар Пичаи говорил, что компания всерьез относится к вопросам конфиденциальности: «Когда мы работаем с больницами, их данные принадлежат только им». Но ИИ поможет им достичь большего прогресса в диагностике, уверен он:

«Только посмотрите на потенциал. Если упустить при диагностике рак, последствия будут очень серьезными. Сейчас, например, в случае с раком легких типичная ситуация, когда пять врачей говорят одно, а пять — другое. Мы же можем использовать искусственный интеллект, чтобы сделать диагноз точнее».