Google работает над уменьшением предвзятости в машинном обучении

Одной актуальных проблем для исследователей в области машинного обучения является уменьшение предвзятости, которая зачастую представлена в исходных данных и может усиливаться такими системами.

Например, если разработчик хочет создать алгоритм, помогающий определять наиболее подходящих кандидатов на вакансию, то он может использовать существующих сотрудников компании в качестве источника данных. В результате ML-система будет иметь соответствующие искажения. Так, если в компании работает больше мужчин, то им может присваиваться больший вес в выборке. При этом люди с определенным опытом или характеристиками могут отсеиваться.

В Google намерены решить эту проблему с помощью нового инструмента для анализа наборов данных Know Your Data (KYD). С его помощью разработчики смогут идентифицировать существующие предубеждения в своих данных, чтобы свести их к минимуму.

Ниже – пример использования KYD для анализа подписей к изображениям на предмет распространенности женских и мужских изображений в рамках определенной категории.

На данный момент новая система довольно ограничена в том, как она может извлекать и анализировать примеры данных. Однако отмечается, что она указывает на лучшее будущее для такого анализа и открывает больше возможностей для уменьшения предвзятости в системах машинного обучения.

Читайте так же:

  • Работа с Google инструментами Аналитики: часто задаваемые вопросыРабота с Google инструментами Аналитики: часто задаваемые вопросы Описание Вебинар пройдет 3 июня 2021 года в 15-00 16-00Ссылка для отправки сайта- https://seoquick.com.ua/webinar/rabota-s-google-instrumentami-analitiki/">https://seoquick.com.ua/webinar/rabota- ... analitiki/Ссылка на […]
  • Наполнение сайта работа харьковНаполнение сайта работа харьков Все слышали об отрицании Холокоста, но есть и связанный с ним феномен-искажение Холокоста. Который включает в себя чрезмерную похвалу за спасение евреев, претензии. Часто выдвигаемые странами. Сыгравшими в этом определенную роль... Иерусалимский синдром-это феномен, при […]
  • Анализ текста на сайтеАнализ текста на сайте Контент-анализ-это метод систематического исследования. Который обеспечивает метод качественного и количественного анализа корпуса информации. Как правило, текста. В этом разделе представлен контент-анализ. Описаны приложения метода. Типы измеряемого контента. А также вопросы выборки. […]
  • Во всем мире продано свыше 25 миллионов Redmi Note 8, и это хороший повод выпустить Redmi Note 8 2021. Смартфон официально подтвержденВо всем мире продано свыше 25 миллионов Redmi Note 8, и это хороший повод выпустить Redmi Note 8 2021. Смартфон официально подтвержден Слух о том, что Redmi готовит смартфон Redmi Note 8 2021, оказался правдой: существование этой модели подтвердилось на страничке Redmi в Twitter. Судя по всему. Официальная премьера новинки состоится уже очень скоро. Новая утечка обошлась без технических подробностей, но […]