ИИ-эксперт Малахов: резолюция ООН подтолкнет к разработке правил о контроле ИИ
Генассамблея ООН приняла первую резолюцию об искусственном интеллекте. 193 государства, поддержавшие инициативу, хотят предотвратить риск того, чтобы ИИ управлял людьми. Эксперт в области искусственного интеллекта и аналитик данных в компании стратегического консалтинга в США Александр Малахов рассказал «Газете.Ru» о том, какие существуют опасности бесконтрольного развития ИИ, и сможет ли принятая резолюция им противодействовать.
«Опасность нейросетей, которые сейчас законодательно никто не контролирует, можно рассмотреть на примере всем известного ChatGPT. Основные риски, которые он в себе несет — это бесконтрольность распространяемой информации, особенно в таких опасных категориях, как запрещенные вещества, будь то наркотические или взрывчатые. Если раньше с источником информации можно было бороться понятными методами (заблокировать сайт, осудить человека, распространяющего информацию и т.д.), то с появлением искусственного интеллекта все стало намного сложнее», — объяснил он.
По словам эксперта, дело в том, что в ChatGPT сначала собирается текстовая база знаний со всего интернета (точный размер данных не распространяется и может быть колоссальным, как говорится, «весь интернет»). Здесь сразу возникает вопрос, кто и как контролирует выборку этих знаний. Достоверных источников, указывающих на это, нет.
«Второй шаг — это процесс обучения ИИ. Он занимает огромное количество ресурсов (здесь речь идет о миллионах долларов) и времени. На этом этапе вся информация трансформируется в подобие человеческого мозга на уровне чисел: создается нейронная сеть, совокупность уравнений, которые содержат в себе преобразованные знания о всех текстах. Важно понимать, что это не база данных — оттуда уже нельзя удалить какие-то знания, равно как и нельзя понять, на основе каких изначальных знаний нейросеть основывает свои суждения. И, кстати, это является основной опасностью, которую подчеркивают такие бизнесмены, как Илон Маск», — подчеркнул Малахов.
Следующий шаг — это применение обученной модели. На основе вводных данных мы можем получить ответ от нейросети. Но мы уже не можем контролировать то, как она генерирует ответ. Единственное, что можно сделать — это модифицировать вопрос и изменить ответ. Опять же, любой пользователь может внести определенные указания для нейросети, «срывающие» ее некую «защиту», и получить доступ к опасной информации любого характера, чтобы применить ее, в том числе, в экстремистских целях.
«Во всей этой цепочке наглядно видны несовершенства контроля над информацией в ИИ. А последние события из сферы только «усугубляют» ситуацию. Компания Илона Маска — Х (бывший Twitter) опубликовала в открытый доступ модель Grok, которая в сотни раз превышает количество знаний от передовой ИИ модели, бывшей в открытом доступе до этого. С одной стороны, это дает возможность людям во всем мире продолжить развитие ИИ с той точки, где находится Х, и предоставить доступ к этому для развивающихся стран. С другой стороны, абсолютно отсутствует контроль за тем, как такой ИИ будет применяться далее», — констатировал специалист.
По словам Малахова, резолюция поможет сдвинуть законотворцев в нужном направлении и начать создавать более понятные правила для разработчиков.
Основной посыл резолюции состоит в том, что лидеры стран ООН коллективно и единогласно признают силу и важность искусственного интеллекта.
«Это первый документ такого высокого уровня. Он является только началом к созданию подобных и более детальных документов на локальном уровне. Резолюция призывает страны разработать свод правил и законов для разработок в сфере в ИИ, чтобы соблюдались права человека, использование было безопасным и безрисковым, сохранялась приватность данных и т.д. Также очень важный момент, что страны ООН ставят как одну из главных задач — помощь развивающимся странам в освоении прогресса в сфере ИИ, чтобы сократить возможное технологическое отставание на горизонте следующих 10 лет. Безусловно, резолюция — важный первый шаг в противодействии бесконтрольному ИИ. Это подтолкнет большинство стран мира разработать необходимые правовые документы, а технологические компании — к поиску новых технических возможностей по контролю», — резюмировал он.
Ранее в Южной Корее ИИ стал ведущим новостей.
Что думаешь? Комментарии