Корпорация Microsoft планирует к концу марта внедрить самостоятельно разработанные этические принципы для своей технологии распознавания лиц, поскольку она настоятельно призывает правительства продвигаться вперед с соответствующим регулированием на местах.

В декабре компания призвала к принятию нового законодательства,регулирующего программное обеспечение искусственного интеллекта для распознавания лиц, выступающего за анализ и контроль со стороны человека в некоторых критических случаях, в качестве способа снижения рисков предвзятых результатов , вторжений в частную жизнь и демократических свобод.

Майкрософт

Брэд Смит

Фотограф: Chona Kasinger / Bloomberg

«Нам нужно подавать пример, и мы работаем над этим», — сказал в интервью президент и главный юридический директор Microsoft Брэд Смит, добавив, что некоторые другие компании также внедряют аналогичные принципы.

По словам Смита, к концу марта компания планирует «ввести в действие» свои принципы, которые включают разработку политик, создание систем управления и технических средств, а также тестирование, чтобы убедиться, что оно соответствует ее целям . Это также включает в себя настройку контроля для глобальных отделов продаж и консалтинга компании, чтобы предотвратить продажу технологии в тех случаях, когда существует риск ее использования в нежелательных целях.

Использование программного обеспечения для распознавания лиц правоохранительными органами, службами безопасности границ, вооруженными силами и другими правительственными учреждениями вызывает обеспокоенность по поводу рисков предвзятости и массового надзора. Исследования показали, что некоторые из самых популярных продуктов допускают ошибки и хуже работают у людей с темной кожей. Microsoft, Amazon.com Inc. и Google Alphabet Inc. столкнулись с протестами со стороны сотрудников и правозащитных организаций по поводу идеи продажи программного обеспечения для искусственного интеллекта государственным органам или полиции.

«Это определенно ограничит определенные сценарии или применения», — сказал Смит о принципах, добавив, что Microsoft не обязательно будет отказываться предоставлять технологии правительствам. По его словам, компания хочет только запретить правоохранительным органам использовать эту технологию для постоянного наблюдения за конкретным лицом без предпочитаемых гарантий.

По его словам, компания отказалась от контрактов. Один случай, который, по словам Смита, означал бы общественное наблюдение в национальной столице «в стране, где нам было неудобно защищать права человека». Другой случай — это развертывание правоохранительным органом в США, что «мы думали, что создать неоправданный риск дискриминации ».

На вопрос, исключит ли Microsoft работу с китайскими правоохранительными органами, особенно в свете новых правил,позволяющих судить граждан по их социальному поведению, Смит сказал, что «это определенно поставит важные вопросы в Китае». Он сказал, что в любом случае кажется, что Пекин больше заинтересованы в приобретении технологий распознавания лиц у местных фирм, а не американских.

Несмотря на то, что компания придерживалась добровольных правил, компания заявила, что регулирование в отрасли необходимо.

«Вы никогда не хотите создавать рынок, который заставляет компании выбирать между успехом и ответственностью, и если у нас нет регулирующего уровня, существует опасность этого», — сказал Смит.