Три вещи, которые могут уничтожить человечество в этом столетии
Investing.com
Опубликовано 30.12.2020 11:04
Investing.com — Искусственный интеллект, синтетическая биология и так называемые «неизвестные неизвестные» могут уничтожить человечество до 2100 года, считает сооснователь Skype Яан Таллинн.
При этом он не рассматривает как самую серьезную глобальную угрозу изменение климата, которое ООН признала «определяющей проблемой нашего времени», отметив, что «важные переломные моменты, ведущие к необратимым изменениям в основных экосистемах и планетарной климатической системе, возможно, уже были достигнуты или пройдены».
«Изменение климата не станет риском для существования, если не будет потери контроля», — сказал эстонский программист в интервью CNBC.
Он пояснил, что синтетическая биология занимается разработкой и созданием новых биологических частей, устройств и систем, в то время как «неизвестные неизвестные» — это «вещи, которые мы, возможно, не можем представить прямо сейчас».
Из трех угроз, которые больше всего беспокоят Таллинна, он сосредоточен на искусственном интеллекте и тратит миллионы долларов, пытаясь обеспечить безопасное развитие технологии. Это включает в себя инвестиции на ранних стадиях в лаборатории искусственного интеллекта, такие как DeepMind (отчасти для того, чтобы он мог следить за тем, что они делают) и финансирование исследований безопасности ИИ в таких университетах, как Оксфорд и Кембридж.
Ссылаясь на книгу оксфордского профессора Тоби Орда, Таллинн сказал, что вероятность гибели людей в этом веке составляет 1 к 6. Согласно книге, одной из самых больших потенциальных угроз в ближайшем будущем является именно ИИ, а вероятность того, что изменение климата приведет к вымиранию человечества, составляет менее 1%.
Скачайте приложение
Сейчас практически невозможно предугадать, каким будет развитие искусственного интеллекта, насколько умными станут машины в следующие 10, 20 или 100 лет. Попытки предсказать будущее ИИ осложняются тем обстоятельством, что системы ИИ начинают создавать другие системы ИИ уже без участия человека. Об опасности, связанной с выходом из-под контроля ИИ не раз говорил и основатель SpaseX и Tesla (NASDAQ:TSLA) Илон Маск.
По словам Таллинна, если выяснится, что ИИ не очень хорош для создания других ИИ, тогда человечеству не стоит слишком беспокоиться, однако в обратном случае «очень оправданно беспокоиться... о том, что произойдет дальше».
Исследователи безопасности ИИ рассматривают два основных «апокалиптических» сценария.
Первый — это несчастный случай в лаборатории, когда исследовательская группа оставляет ИИ, чтобы тренироваться на компьютерных серверах вечером, а «утром мира больше нет».
Во втором случае исследовательская группа создает прототипную технологию, которая затем применяется в различных областях, «где она в конечном итоге приводят к нежелательным последствиям».
Таллинна больше заботит первый вариант, поскольку меньше людей думают о таком сценарии.
Отвечая на вопрос, беспокоит ли его проблема суперинтеллекта (гипотетическая возможность достижения машиной интеллекта человеческого уровня, который она затем быстро превосходит), он сказал: «Если кто-то говорит, что это произойдет завтра или этого не произойдет в ближайшие 50 лет, я бы сказал, что оба они слишком самоуверенны».
Крупнейшие мировые технологические компании выделяют миллиарды долларов на развитие ИИ. Хотя некоторые из их исследований публикуются открыто, большая часть — нет.
По словам Таллинна, некоторые компании относятся к безопасности искусственного интеллекта более серьезно, чем другие. DeepMind, например, поддерживает регулярные контакты с исследователями безопасности ИИ в таких местах, как Институт будущего человечества в Оксфорде. В нем также работают десятки людей, которые сосредоточены на этой проблеме.
А такие корпоративные центры, как Google (NASDAQ:GOOGL) Brain и Facebook (NASDAQ:FB) AI Research, менее вовлечены в сообщество по безопасности искусственного интеллекта.
«Если выяснится, что ИИ в ближайшее время не будет очень разрушительным, тогда, конечно, было бы полезно, если бы компании действительно пытались решать некоторые проблемы более распределенным образом», — полагает Таллинн.
При подготовке исполmзованы материалы CNBC
Источник: Investing.com
Торговля финансовыми инструментами и (или) криптовалютами сопряжена с высокими рисками, включая риск потери части или всей суммы инвестиций, поэтому подходит не всем инвесторам. Цены на криптовалюты чрезвычайно волатильны и могут изменяться под действием внешних факторов, таких как финансовые новости, законодательные решения или политические события. Маржинальная торговля приводит к повышению финансовых рисков.
Прежде чем принимать решение о совершении сделки с финансовым инструментом или криптовалютами, вы должны получить полную информацию о рисках и затратах, связанных с торговлей на финансовых рынках, правильно оценить цели инвестирования, свой опыт и допустимый уровень риска, а при необходимости обратиться за профессиональной консультацией.
Fusion Media напоминает, что информация, представленная на этом веб-сайте, не всегда актуальна или точна. Данные и цены на веб-сайте могут быть указаны не официальными представителями рынка или биржи, а рядовыми участниками. Это означает, что цены бывают неточны и могут отличаться от фактических цен на соответствующем рынке, а следовательно, носят ориентировочный характер и не подходят для использования в целях торговли. Fusion Media и любой поставщик данных, содержащихся на этом веб-сайте, отказываются от ответственности за любые потери или убытки, понесенные в результате осуществления торговых сделок, совершенных с оглядкой на указанную информацию.
При отсутствии явно выраженного предварительного письменного согласия компании Fusion Media и (или) поставщика данных запрещено использовать, хранить, воспроизводить, отображать, изменять, передавать или распространять данные, содержащиеся на этом веб-сайте. Все права на интеллектуальную собственность сохраняются за поставщиками и (или) биржей, которые предоставили указанные данные.
Fusion Media может получать вознаграждение от рекламодателей, упоминаемых на веб-сайте, в случае, если вы перейдете на сайт рекламодателя, свяжитесь с ним или иным образом отреагируете на рекламное объявление.