Contacta +34 91 0 09 94 29

La IA de Twitter en contra de los tuits tóxicos

La IA de Twitter en contra de los tuits tóxicos
Víctor Arenas

En los últimos años existe una mayor preocupación por evitar aquello que resulta tóxico. De hecho, se ha escrito tanta literatura sobre la toxicidad que ha terminado impregnando todas y cada una de las temáticas existentes: la salud, la psicología, el medioambiente, las relaciones personales, la comunicación, la educación e, incluso, el marketing. En esta búsqueda de eliminar aquello que puede ser perjudicial, ofensivo o inadecuado, Twitter ha iniciado nuevos procedimientos tratando de erradicar la toxicidad en su plataforma.

Pero, ¿qué es tóxico en la red social de los 140 caracteres? El director de producto de Twitter, Kayvon Beykpour, declaraba en el Consumer Electronics Show (CES) 2020 de Las Vegas que habían aprendido a través de la experimentación a ajustar los algoritmos de aprendizaje automático (machine learning), para garantizar que se mostrarán respuestas que tienen más probabilidad de obtener una conversación. En relación a esto, Beykpour, afirmaba que se encuentran trabajando en la identificación y en cómo medir aquello que puede resultar tóxico, aprovechando la Inteligencia Artificial (IA) capaz de reconocer los tuits que violan la reglas; aseguraba, que intentan predecir, incluso, los tuits que pueden llegar a ser abusivos e ir en contra de las políticas de Twitter. Para que la IA aprenda sobre toxicidad, Twitter define con precisión cuáles son las reglas y le aporta una gran cantidad de ejemplos sobre tuits que han ido en detrimento de las normas.

Por otro lado, Kayvon Beykpour daba cuenta de lo difícil que puede llegar a ser identificar lo ofensivo. Sin embargo, destacaba que lo habitual es que, para los usuarios, lo importante, así como la indignación, llegue a hacerse viral, pero “lo tóxico” (la ofensa y  el abuso) también. Los primeros pasos que la red social ha dado en este campo ha sido los de otorgar una menor visibilidad a aquellos comentarios improcedentes, así como ofrecer mayor presencia a las respuestas que tienen una alta probabilidad de interactuación.

Dejando a un lado la controversia y el debate que esta noticia puede llegar a suscitar dentro de la comunidad tuitera; para el ámbito y los centros educativos, esta medida puede contribuir a evitar situaciones que tienen que ver con mensajes ofensivos, el acoso escolar, el ciberbullying o los mensajes que atentan contra la dignidad e integridad de los alumnos o equipo docente. Sobre todo si se tiene presente el alcance y el impacto de mensajes malintencionados.

Nuevas funcionalidades

Entre los cambios que Twitter sí ha confirmado para este 2020 se encuentra una función que pone límite al número de personas que pueden responder a una conversación. Estas opciones se incluirán en un botón que ha sido denominado como ‘Participantes de la conversación’ con las opciones siguientes: la de compartir de manera Global (tuit público), Grupal (solo disponible a personas que se siguen o que se han mencionado), Panel (autoriza quién puede contestar) y Declaración (no permite ningún tipo de respuesta).

0 Comentarios

Dejar una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

*

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.