В Университете Карнеги — Меллона решили разобраться в инциденте, произошедшем с одним из популярных YouTube-каналов о шахматах. В прошлом году этот канал неожиданно заблокировали без каких-либо объяснений, а через сутки восстановили без уточнения причин. Исследователи предположили, что платформа отреагировала на словосочетание «черные против белых». Ученые провели тестирование с использованием двух классификаторов речи, обученных реагировать на проявления ксенофобии. Классификаторам дали задание проверить около 680 тыс. комментариев к роликам на пяти популярных каналах YouTube, посвященных шахматам. Из комментариев, которые хотя бы один классификатор отметил как ксенофобские, была сформирована случайная выборка на 1000 вхождений. При ручной проверке выяснилось, что в подавляющем большинстве случаев риторики ненависти не было: ложные срабатывания вызвали слова «черный», «белый», «атака» и «угроза». По мнению исследователей, системы обучали на примерах, содержавших слишком мало шахматных терминов.
.jpg)
