Google “исправила” расистские алгоритмы распознавания изображений… их отключением

В далеком 2015 году инженер-программист Джеки Алсин сообщил общественности, что алгоритмы распознавания изображений в Google Фото работают неправильно и классифицируют афроамериканцев в качестве “горилл”. Google же в свою очередь извинилась за задетые чувства пользователей и пообещала исправить ошибку. Но на практике оказалось, что три года Google ничего не предпринимала. Компания всего лишь отключила алгоритм распознавание “горилл”, чтобы не рисковать своей репутацией.


Чуть позднее поступило сообщение от компании Wired. Их усилиями был проведен тест алгоритмов Google Фото, посредством загрузки на службу десятка тысяч фотографий различных приматов. Среди которых были: бабуины, гиббоны, мартышки, гориллы и шимпанзе. Первые три категории животных были определены правильно, но что же касается горилл и шимпанзе их идентификация отсутствовала. Также в ходе теста было обнаружено, что Google подправила ИИ в отношении расистских запросов. Так например при поиске “черного человека” или “черной женщины” выводились фотографии людей в черно-белой одежде, отсортированные по половой принадлежности.

Google photo

Представитель Google подтвердил результаты тестов, совершенных Wired, которые касались категорий приматов и сообщил что они были заблокированы. Со слов представителя становится понятным, что технология распознавания изображений далеко не идеальна. И заблокированные категории все еще остаются доступными в службах Google, таких как API Cloud Vision и Google Assistant.

Может показаться странным, что коммерческая компания-гигант Google, не придумала более правильного решения этой проблемы. Но эта оплошность служит хорошим напоминанием о том, как сложно обучать ИИ, когда он находится в стадии разработки и не проверен группой специалистов.

Остается неясным, что Google будет предпринимать в дальнейшем для улучшения своих алгоритмов, так как изъянов в них предостаточно и они требуют незамедлительных мер по устранению.

Источник: theverge.com

The post Google “исправила” расистские алгоритмы распознавания изображений… их отключением appeared first on Root Nation.

Root Nation
Другие новости раздела: Кратко по миру

Кратко по миру

КАК ИИ ЗАХВАТИТ НАШУ ЖИЗНЬ | РАЗБОР

💸Получите шанс выиграть до 5 000 000 рублей со СберИнвестициями: 💰Нужны перемены? Рассчитайте кредитный потенциал для вашего бизнеса в СбербанкОнлайн и оформите кредит по сниженной на 3% ставке.

Кратко по миру

THE LINE — ГОРОД БУДУЩЕГО | РАЗБОР

💠Первая умная LED-одежда и аксессуары Cyberpix: По промокоду Droider скидка 15% 🤟Мы в телеграм) Все то, о чем еще несколько десятилетий назад писали фантасты, кажется, становится реальностью. Вот и

Кратко по миру

ЭЛЕКТРОМОБИЛЬ ОТ XIAOMI: TESLA НАПРЯГЛАСЬ? | РАЗБОР

📺Этот и другие QLED Телевизоры HYUNDAI на официальном сайте Реклама. ООО Мерлион. ИНН 7719269331. erid: 2Vtzqvm6aL2 Секретная империя XIAOMI: 🤟Мы в телеграм) Один из самых ожидаемых гаджетов года —

Кратко по миру

МЕТАЛИНЗЫ - ЭТО РЕВОЛЮЦИЯ | РАЗБОР

🌐Единое пространство для бизнес-коммуникации и совместной работы МТС Линк — 🤟Мы в телеграм) Сегодня мы поговорим о металинзах. Это абсолютно новая технология, которая может изменить мир мобильной

Похожие публикации

Программы для macOS

Text Scanner

Инструмент текстовой информации для идентификации изображений, который в основном включает в себя распознавание текста, распознавание форм, идентификацию карточки и поддерживает более десяти

Кратко по миру

Как работает РАСПОЗНАВАНИЕ ЛИЦ? | РАЗБОР

Подробнее о Webex: ? Подписка на DROIDER: Сегодня поговорим о том как работают алгоритмы распознавания лиц? Насколько страшны алгоритмы и где их применяют во благо. А также поговорим, какого в каком

android

Google Now и Cortana распознают речь хуже, чем Siri

Компания Venture Beat провела исследование с участием голосовых помощников Apple, Microsoft и Google. Как оказалось, качество распознавания речи персонального ассистента Siri оказалось существенно

android

Google запустит новые алгоритмы поиска 21 апреля

Преумножающийся каждый год объем трафика с мобильных устройств заставляет меняться не только сайты, но и поисковики. Недавно стало официально известно, что 21 апреля Google внедрит новые алгоритмы,

android

Для Nexus-устройств будет безлимитное хранилище в Google Photos

Google Photos, представленный на Google I/O 2015, приглянулся многим возможностью хранить неограниченное количество фотографий и роликов в облаке. С одним только «но»: алгоритмы сервиса «сожмут»

android

SoundHound представили голосового помощника Hound

Два конкурирующих сервиса для распознавания музыки Shazam и SoundHound не стали зацикливаться лишь на одной функции и продолжили развитие. Последнее обновление Shazam привнесло распознавание

android

Свежее обновление Shazam улучшило алгоритмы поиска

Неологизм «зашазамить» употребляется в отношении определения исполнителя и названия песни по части трека, так же часто, как «гуглить» в отношении поиска. Свежее обновление, которое разработчики уже

android

Лучшие Android-приложения 2016 года по версии Google

Несмотря на то, что на дворе только май, компания Google в рамках ежегодной конференции I/O назвала лучшие приложения 2016 года. Номинанты премии были объявлены в конце апреля. Ключевыми критериями