Этические вопросы при использовании технологий искусственного интеллекта: проблемы и решения

Параллельно, как прогнозируют ученые, способность человека контролировать и предсказывать действия ИИ станет постепенно снижаться, система будет учиться на собственном опыте, и начнет выполнять функции, которые изначально не были в нее заложены. Если учитывать, что это затрагивает медицину, военный аспект и может повлиять на судьбы не только отдельных людей, но и всего человечества, то создание надежной правовой и этической базы, регламентирующей действия таких систем – это минимизация всех возможных рисков.

Какие этические вопросы возникают при использовании технологий искусственного интеллекта?

Этические вопросы возникали и копились постепенно. В разное время их пытались классифицировать, но акцент постоянно смещается, что вполне логично. Сейчас на первое место выходит защита важной информации, приватность имеющихся в системе данных и предосторожность в процессе их использования.

Кроме того, искусственный интеллект медленно, но уверенно заменяет (или минимизирует участие) людей в разных сферах деятельности. В связи с этим поднимается вопрос о возможности и целесообразности автоматизации предсказуемых действий (в которых используется определенный алгоритм), и непредсказуемых (требующих каждый раз принимать оптимальное для конкретной ситуации решение).

Удивительно, но первыми вопросами этичности и регламента использования ИИ задались не ученые, а писатели-фантасты, которые начали философствовать та тему того, что будет, если искусственный разум станет подобен человеческому, начнет осознавать и принимать себя как личность? Как общество в таком случае будет взаимодействовать с ним, и будет ли в основе этого взаимодействия равенство и справедливость?

Среди основных этических вопросов следует выделить:

• Ошибки и ответственность. Технология несовершенна, и есть риск того, что ИИ будет допускать ошибки, но кто в этом случае будет нести за них ответственность?
• Интерпретация результатов (диагнозы, выводы, обоснованность тех или иных действий). Если человек может объяснить ход своих мыслей, приведших к тому или иному умозаключению, то ИИ, будет принимать решения, основываясь на алгоритмах, которые не всегда применимы в конкретных ситуациях.
• Вопрос безопасности. Чем шире возможности и полномочия системы, тем выше риск её неправомерного использования. Сможет ли система сама распознать плохие намерения?
• Проблемы контроля. Сможет ли человек продолжать контролировать сложную, самообучающуюся систему? Нужен ли ей автономный режим?
• Вопрос очеловечивания. Может ли ИИ обучиться человеческим чувствам, испытывать страх, одиночество, сострадание? Как быть, если такое станет возможным?

Это далеко не полный список возникающих вопросов и дилемм. Некоторые из них на данный момент могут показаться неразрешимыми, но, как считают ученые, всему свое время.

Какие проблемы могут возникнуть при использовании искусственного интеллекта в медицине?

Медицина – это особая сфера, где этический аспект, в принципе, занимает лидирующую позицию (сохранность медицинской тайны, конфиденциальность личных данных пациентов и т.д.). Естественно, прогресс не обошел стороной эту область, но здесь далеко не всегда можно полагаться на выводы, сделанные ИИ, а огромную роль в процессе постановки диагноза играет доверительное человеческое общение.

Искусственный интеллект в медицине имеет, пожалуй, наибольшее количество слабых мест, чем в какой-либо другой сфере. Несмотря на то, что в процессе разработки системы, в неё закладываются обширные знания о строении и функциях человеческого организма, патогенезе, методах диагностики и лечения всевозможных заболеваний, её результативность, а также корректность не могут сравниться с действиями опытного врача.

Основные причины неудач и некорректной работы ИИ в процессе постановки диагноза кроются в таких тонкостях:

• Недостаточный объем данных, получаемых от пациента. Врач выступает еще и психологом, зная, что и когда нужно уточнить, чтобы увидеть полную картину.
• Отсутствие в системе данных с отрицательным опытом клинических исследований или негативными результатами лечения (в том числе, врачебными ошибками). Такая информация или не вносится вовсе, или сильно урезается.
• Искажение медицинских данных. К примеру, некорректная информация о результатах медицинских исследований, на основании которых составляются рекомендации и назначения.
• Те или иные методы диагностики и лечения могут сильно отличаться, даже если случаи схожи. Опытный врач улавливает тонкости, в то время как ИИ будет следовать алгоритму.
• Принимаемые врачом решения порой носят иррациональный характер. Специалист может взять на себя персональный риск и ответственность, отталкиваясь от собственного опыта и профессиональной интуиции, которые попросту невозможно классифицировать или алгоритмизировать, чтобы загрузить в систему ИИ.

Какие этические аспекты необходимо учитывать, используя искусственный интеллект в правоохранительных органах?

В полиции и судебной системе использование ИИ на данный момент не слишком востребовано. Основная проблема – этический аспект, который во многих случаях трудно регламентировать. Кроме того, без людей, с их опытом и способностью критически мыслить, тут не обойтись. Специалисты проводят расследования, собирают улики и доказательства, а судьи выносят окончательное решение, и автоматизировать этот процесс – задача не из легких.

Любой правоохранительный орган создается с целью охраны права, в соответствии с действующим законодательством, и в его основе лежит справедливость. К полицейским структурам предъявляются высокие требования, а использование современных технологий не только открывает новые возможности, но и повышает риски.

Все дело в том, что в систему попадает большой объем конфиденциальной информации, связанной с ходом расследования тех или иных преступлений. Но криминальный мир тоже не дремлет, изобретая все новые способы изъятия или намеренного искажения этой информации. По этой причине правоохранительный орган вынужден бороться не только с традиционной, но и с кибер-преступностью, причем всегда быть на шаг впереди злоумышленников, не допуская утечек секретных данных.

Кроме того, немаловажную роль сейчас играет предиктивная полицейская деятельность, заключающаяся в предотвращении возможных преступлений. Она базируется на технологиях ИИ, анализе и обработке больших объемов данных. Основная проблема и этический аспект кроется в методах сбора данных и принятии решений о судьбах граждан, которым искусственный интеллект предрекает высокую вероятность совершения преступления.

Как искусственный интеллект может повлиять на равенство и справедливость в обществе?

Повсеместное внедрение систем ИИ оказывает все большее влияние на современное общество. Привычные нам сферы деятельности меняются, а возможности и потенциал новых технологий только расширяются. Общественные организации, да и сами люди должны пристально следить за тем, что привносит искусственный интеллект в нашу жизнь, а также прогнозировать, какое влияние на нашу работу и существование может оказывать его использование, и какие могут возникать проблемы.

В идеале любая технология должна использоваться исключительно во благо, но соблюдать этот принцип удается далеко не всегда. Во-первых, посредством информационных систем можно влиять на взгляды, настроения, предпочтения общества, во-вторых, формировать систему ценностей. Однако контролировать такие процессы сложно, а сам ИИ порой способствует распространению недостоверных сведений, потому как не всегда может обнаружить фейки.

В связи с этим может возникать одна проблема за другой:

• Появление новых форм дискриминации (отдельных личностей или целых организаций).
• Защита данных, которые превращаются в своеобразную валюту (средство для манипуляций).
• Регулирование деятельности и полномочий ИИ на законодательном уровне.
• Сопоставление возможностей ИИ и оценка связанных с ними рисков.
• Правомерность использования ИИ в процессах привлечения и сбора средств, в том числе в благотворительных целях.

Какие проблемы могут возникать при использовании ИИ в автономных транспортных средствах?

Транспортный комплекс является одной из ключевых инфраструктурных отраслей мирового хозяйства, обеспечивающей перемещение людей и грузов на любые расстояния. Мы привыкли к тому, что любое транспортное средство управляется человеком, который оценивает обстановку и принимает решения, от которых зависит безопасность пассажиров, пешеходов и сохранность грузов. Но искусственный интеллект позволяет создавать автономные автомобили, которые могут работать без какого-либо контроля со стороны человека.

Тем не менее, такие технологии пока не получили широкого распространения, и используются в определенных местах, где нет больших скоплений людей или другой техники. В качестве примера можно привести беспилотные комбайны, бороздящие широкие просторы полей, грузовики, работающие на закрытых территориях промышленных объектов, а также беспилотное метро.

Что же мешает внедрению беспилотных автомобилей на городские улицы?

• Основная проблема заключается в том, что моделируемая среда, как ни старайся, отличается от реального мира, а учесть все вероятные ситуации попросту невозможно.
• Также возникают сложности с тестированием машин, в которые загружается огромное количество различных алгоритмов.
• ИИ должен будет учитывать не только ПДД, но также погодные условия, характер дорожного покрытия, взаимодействовать с живыми водителями, пешеходами и прочими участниками дорожного движения.
• Стоить транспортный беспилотник будет недешево. Обычному человеку такая роскошь недоступна, а из тех, кто может себе позволить подобное, не все готовы доверить свою жизнь и безопасность технологиям ИИ.

Ко всему прочему, подавляющее большинство водителей не желают полностью отказываться от ручного управления, справедливо считая, что это необходимо для минимизации рисков.

Какой этический аспект необходимо учитывать при использовании ИИ в военных целях?

Каждая страна имеет свой военный потенциал, который измеряется не только объемом и мощностью вооружения, но и надежностью систем, управляющих им. Искусственный интеллект не обошел эту сферу, в качестве примера можно привести беспилотные летательные аппараты (БПЛА), но его использование вызывает немало споров, затрагивая этический аспект.

Необходимо учитывать, что автономный режим в оружейных системах, в случае малейшего сбоя или ошибки, может и меть катастрофические последствия. Предосторожность здесь выходит на первое место, а основная цель – минимизация рисков. Ключевая же проблема заключается в решениях, принимаемых ИИ самостоятельно, которые могут противоречить моральным и этическим нормам, приводя к непредвиденным результатам.

Могут возникать и другие этические проблемы, которые также необходимо учитывать:

• ИИ может снижать значимость человеческих жизней, способствуя развязыванию масштабных и смертоносных войн.
• Некорректная первоначальная настройка системы, случайные и намеренные ошибки могут поставить под угрозу гражданские объекты, привести к гибели мирного населения.
• Использование автономных боевых систем обостряет проблему юридической ответственности, потому как они могут использоваться без присутствия человека, что приведет к сложностям при установлении ответственных за возможные преступления.

Определенная мера участия и поддержки со стороны человека должна присутствовать, дабы вовремя повлиять на ситуацию и предотвратить негативные последствия.

Как искусственный интеллект может повлиять на приватность и защиту персональных данных?

ИИ обладает высокой скоростью сбора, обработки и анализа больших объемов информации. Вместе с тем, получаемые данные подвергаются различным манипуляциям, отслеживанию и идентификации. Также современные технологии способны распознавать лица, голос, даже эмоции. В большинстве случаев люди сами охотно предоставляют информацию о себе в тех же соцсетях, не задумываясь о возможных последствиях.

Однако сведения, касающиеся медицины, банковской сферы и так далее, предоставляемые нами в конкретные организации, с согласием на их последующую обработку, нуждаются в надежной защите. Технологии ИИ в этих сферах призваны обеспечивать ответственный сбор, использование и хранение таких данных.

Какой этический аспект необходимо учитывать, используя ИИ в рекламе?

Реклама является популярным инструментом, цель которого – привлечение новых клиентов, а современные технологии играют в этом процессе одну из ведущих ролей. Они не только собирают и анализируют данные о спросе и предложении, но сами могут повлиять на процессы их формирования. Более того, искусственный интеллект способен ломать шаблоны, создавая что-то принципиально новое, а также менять восприятие самой рекламы.

Основная этическая проблема использования ИИ в рекламе – это персонализация, а точнее, получение информации о потенциальных клиентах с целью повышения их интереса к своим продуктам или услугам. К примеру, если молодежь привлекают больше стильные визуальные образы, то пожилых людей можно склонить к покупке посредством убедительного разговорного маркетингового подхода.

Какие проблемы могут возникать при использовании искусственного интеллекта в образовании?

Образование, как и медицина, нуждается в особом подходе в вопросах внедрения ИИ. Опыт последних лет показал, что сейчас для обучения нужен лишь персональный компьютер и грамотно построенная система, доступно излагающая необходимый материал, и контролирующая его усвоение аудиторией.

Вместе с тем возникает новая проблема – использование автоматизированных оценок снижает развитие навыков критического мышления. Также существует риск дискриминации из-за использования алгоритмов, которые могут содержать ошибки или неточности. Поэтому полностью автоматизировать оценку знаний учеников пока невозможно.