Любая новая технология несет в себе потенциальный вред для общества и может дестабилизировать его привычный уклад. Важно понимать последствия использования искусственного интеллекта, особенно по мере роста его применения. Искусственный интеллект охватывает машинное обучение, глубокое обучение, большие данные, открытые данные, алгоритмы, роботов и многое другое. Несмотря на то что использование искусственного интеллекта дает много преимуществ, при отсутствии защитных механизмов, гарантий и регулирующего законодательства такие технологии могут негативно сказаться на жизни людей и повлечь потенциально катастрофические последствия.
Предвзятость в искусственном интеллекте
Точно так же, как предвзятость проявляется у людей, искусственный интеллект может быть предвзятым на самых разных уровнях. Предвзятость искусственного интеллекта, как правило, отражает предвзятость людей, которые создают его. По сути, алгоритм – это последовательность инструкций для решения конкретной проблемы. Разработчики систем искусственного интеллекта могут внести предвзятость путем установки некоторых параметров и инструкций при создании определенного алгоритма. Например, если разработчики выбирают уровень дохода в качестве параметра в своем алгоритме, это вполне может привести к результату, который создает расовую предвзятость (хотя и непреднамеренную), которая может нанести ущерб определенной группе меньшинства.
Искусственный интеллект и иммиграционная система
Алгоритмы уже широко используются в иммиграционной системе Великобритании. С 2015 года МВД Великобритании применяло алгоритмы для отбора заявлений, чтобы определять уровень риска недобросовестности заявлений. Заявления, отнесенные к категории повышенного риска, затем проходили более тщательную проверку, и поэтому вероятность отказа в них повышалась. Использование данного алгоритма было успешно оспорено на основании доводов, что эта технология привнесла предвзятость и дискриминацию в иммиграционную систему. Применение этого алгоритма будет приостановлено, и он будет переработан.
Некоторые заявления, например, подаваемые в рамках Программы предоставления статуса оседлости для граждан ЕС, предусматривают обмен данными между различными государственными ведомствами, а решения по ним принимаются автоматизированной системой. Среди преимуществ автоматизированных систем обработки заявлений можно отметить повышенную эффективность, снижение расходов, а также ускоренные сроки рассмотрения заявлений. Тем не менее по-прежнему крайне важно иметь защитные механизмы против любых рисков предвзятости и дискриминации при использовании таких технологий для принятия решений, чтобы обеспечить справедливость рассмотрения заявлений.
Имеется ли решение?
По мере беспрецедентного роста использования технологий возрастает и важность наличия защитных механизмов. Со временем быстрый темп развития технологий может обойти существующие правовые базы для защиты от любых потенциальных случаев неправомерного использования искусственного интеллекта и оспаривания таких случаев.
Законы о защите данных, принимаемые отдельными государствами, являются примером правовой базы, предназначенной для защиты от потенциального вреда, который может быть нанесен системами искусственного интеллекта. Кроме того, правовая база предусматривает механизмы для управления риском неправомерного использования. В пример можно привести Общий регламент ЕС по защите данных (далее – «GDPR»). GDPR включает в себя нормативные положения по защите данных и конфиденциальности, которые дают лицам контроль над использованием их личных данных.
Отныне крайне важно иметь не только законы по защите и обеспечению прав человека, но и также компетентные органы, осуществляющие надзор над исполнением таких законов. При этом требуется не отставать от прогресса технологий искусственного интеллекта. Государственные органы, такие как МВД, должны обеспечивать большую прозрачность своих систем по принятию решений. Они должны учитывать воздействие, которое могут оказывать алгоритмы на визовые заявления, и, следовательно, непосредственно на будущее семей и отдельных лиц, подающих такие заявления. Примером технологического прогресса, используемого с применением алгоритмов искусственного интеллекта, является разработка более эффективных, доступных и менее затратных систем. Несмотря на это, соблюдение строгих законов по защите данных и конфиденциальности представляется крайне важным в процессе принятия решений искусственным интеллектом.
Фирма Gherson имеет богатый опыт работы по всем вопросам иммиграционного права Великобритании. В случае возникновения вопросов в связи с вашими конкретными обстоятельствами, просим связаться с нами.
Информация в данном блоге предлагается только в целях общего ознакомления, она не является исчерпывающей и не содержит в себе юридической консультации. В то время как сделано все возможное, чтобы убедиться, что данные сведения и законодательство соответствуют действующим на момент публикации правовым нормам, следует помнить, что с учетом течения времени такие сведения могут перестать отражать текущие правовые положения. Фирма Gherson не несет ответственности за ущерб, в случае возникновения такового, вследствие доступа к содержащейся в этом блоге информации или ее использования. Для получения официальной консультации по действующему законодательству, пожалуйста, свяжитесь с фирмой Gherson. Юридические консультации предоставляются только на основании письменного соглашения в установленной форме, подписанного клиентом, с одной стороны, и от имени или по поручению фирмы Gherson, с другой стороны.
©Gherson 2020
English