Темная сторона искусственного интеллекта: начнет ли нейросеть новую войну

Искусственный интеллект монополизирует все

Искусственный интеллект (ИИ) тем сильней, чем больше данных он обрабатывает. Компании с большим числом пользователей обладают большим капиталом для привлечения лучших ученых и большим объемом данных для обучения ИИ, что в конечном итоге приводит к непреодолимому разрыву между лидерами и остальными компаниями, формирует монополию. Это хорошо видно на примере захвата рынков Amazon, Google, Microsoft, Facebook, Uber и другими мировыми лидерами информационных технологий. Кроме экономических проблем, монополизация ИИ может привести и к более серьезным последствиям, ведь концентрация власти в одних руках всегда приводит к ужасным последствиям в долгосрочной перспективе, приближая сценарий полицейского государства с бессмертным ИИ-диктатором во главе.

Решить проблему монополизма в сфере ИИ сложно, но можно в плоскости законодательства, если государство будет стимулировать открытый доступ к технологиям, а также расширит антимонопольную практику. Под давлением государства компании информационных технологий могут пойти на большую открытость своих технологий, хорошим примером здесь является дело Microsoft. Лучшей защитой от гиперконцентрации ИИ будет открытость базовых технологий ИИ и массивов данных для обучения, изучения и использования всеми участниками рынка и странами. Возможно, потребуется ввести законодательные ограничения в области охраны прав интеллектуальной собственности и содержания баз данных.

Авторские права ИИ

Вопросы правового регулирования интеллектуальной собственности, созданной с использованием ИИ, вызывают споры. В том случае, когда ИИ полностью создает новую интеллектуальную собственность — изображение, музыку и прочее, авторские права можно признать за автором, создавшим ИИ. Если, конечно, между разработчиком ИИ и пользователем не заключен договор, который предоставляет авторские права только пользователю или сразу и разработчику, и пользователю.

Относительно авторских прав на генерируемые ИИ тексты вопрос законодательно не урегулирован, но, кажется, можно использовать аналогию с изображениями, видео или аудио.

Сложнее ответить на вопрос о принадлежности интеллектуальной собственности, если результат получен в результате совместных усилий ИИ и пользователя, например, при превращении фотографий пользователя в цифровые картины. В таком случае авторские права будут определяться содержанием лицензионного соглашения между разработчиком ИИ и пользователем. В отдельных случаях можно говорить о соавторстве человека и ИИ, например, когда ИИ пишет аранжировку мелодии, предоставленной человеком. При этом авторские права на ту часть, которую создал ИИ должны принадлежать автору (коллективу авторов) ИИ. Под автором ИИ понимаются лица, которые не только пишут программный код системы ИИ, но и обучают систему (образно говоря, не только биологический родитель, но и воспитатель).

Международное право и ИИ

В сфере ИИ первоочередными являются три критически важных сферы международного права.

1. Международные ограничения автономных систем вооружения, оснащенных ИИ. Без таких ограничений рано или поздно оружие, действующее самостоятельно на основе ИИ, выйдет из-под контроля человека. Произойдет ли это под воздействием хакеров, террористов или в результате развития самого ИИ, не так важно. Важно, что, постепенно наращивая количество и качество автономных систем вооружения с ИИ, мы незаметно для себя перейдем рубеж, за которым станет реальной третья мировая война с низкими шансами человеческой цивилизации на выживание. Как говорил Альберт Эйнштейн: «Не знаю, каким оружием будет вестись третья мировая война, но четвертая — точно камнями и палками».
2. Дипломатическое, правовое и технологическое содействие предоставлению международного доступа к медицинским базам. Сейчас такие базы в основном накоплены в США и Европе. Естественно, механизм доступа к медицинской информации не должен позволять раскрыть персональные данные пациентов (к примеру, в медицинских базах могут содержаться только цифровые идентификаторы пациентов, а персональные данные пациентов могут храниться отдельным конфиденциальным массивом с указанием идентификатора пациента, его фамилии, имени и т. д.). Нужны только анонимные данные, позволяющие обучать ИИ и ускорить медицинские исследования по всему миру. Я уверен, что такие действия позволят совершить прорыв в лечении рака, диабета, сердечно-сосудистых и иных смертоносных заболеваний. Техническую часть вопроса могла бы обеспечить поддержка правительствами стран всего мира Open Data Initiative — программы, предложенной компаниями Microsoft, SAP и Adobe для объединения данных разных организаций без потери контроля над такими данными.
3. Разрешение свободного использования данных, включая объекты авторских прав, для обучения ИИ так же, как разрешено свободно использовать объекты авторских прав для обучения человека.

Все перечисленные проблемы ИИ должны быть в первоочередном порядке обсуждены и законодательно решены на национальном и международном уровнях.

Умение договариваться спасло человечество во время Карибского кризиса, когда гибель цивилизации была как никогда близко. Надеюсь, это умение поможет выработать общие подходы, в первую очередь к вооружениям с ИИ, которые позволят сохранить мир от уничтожения.

Наиболее развитые страны мира должны принять международные соглашения об ИИ, регулирующие его применение с учетом наиболее крупных рисков для прав граждан, бизнеса, финансовой системы, развития здравоохранения и предотвращения третьей мировой войны.