Nacional

YouTube bloquea un canal de ajedrez por interpretar su contenido como peligroso y racista

YouTube bloquea un canal de ajedrez por interpretar su contenido como peligroso y racista

Antonio Radic, popularmente conocido como Agadmator, es un experto ajedrecista y youtuber que se dedica analizar partidas en la plataforma de YouTube. Su canal de ajedrez, con más de 1,03 millones de suscriptores fue bloqueado temporalmente.

El pasado 28 de junio del 2020, el canal de Radic fue bloqueado mientras presentaba un programa de ajedrez con Hikaru Nakamura. La interrupción duró 24 horas sin que se explicara el motivo.

YouTube alegó que la censura se produjo por la emisión de "contenido dañino o peligroso", pero cuando el creador de contenido croata quiso conocer el motivo exacto de su inhabilitación, no recibió ningún tipo de respuesta por parte de la plataforma, según un tuit publicado en la cuenta Agadmator.


Al parecer, YouTube utiliza un algoritmo para detectar el racismo y discursos de odio similares, y la inteligencia podría haber reaccionado al entender que "el blanco ataca al negro", a pesar de estar utilizado en el contexto de una partida de ajedrez, la plataforma entendió que pertenecía a un discurso racista.

El sistema de moderación de YouTube se basa tanto en humanos como en algoritmos de inteligencia artificial. El sistema de inteligencia artificial podría malinterpretar los comentarios si no se entrena correctamente para comprender el contexto.

"Si confían en la inteligencia artificial para detectar el lenguaje racista, este tipo de accidente puede suceder", dijo Ashiqur KhudaBukhsh, científico del proyecto en el Instituto de Tecnologías del Lenguaje de CMU, según una publicación del medio The Independent.

KhudaBukhsh probó esta teoría utilizando un clasificador de voz de última generación para filtrar más de 680 000 comentarios recopilados de cinco populares canales de YouTube centrados en el ajedrez.

Después de revisar manualmente una selección de 1 000 comentarios que AI había clasificado como discurso de odio, descubrieron que el 82% de ellos habían sido clasificados erróneamente debido al uso de palabras como "negro", "blanco", "ataque" y " amenaza ”, todos los cuales se usan comúnmente en el lenguaje del ajedrez, según el mismo medio.