Twitter ha anunciado su nueva iniciativa de Aprendizaje Automático Responsable (Responsible Machine Learning), que tiene como objetivo entender mejor la forma en que se comporta su algoritmo y arreglar posibles fallos.
Con su nueva iniciativa, Twitter quiere descubrir los puntos débiles de su algoritmo y detectar sus defectos, como los fallos que llevaron a modificar el recorte automático de imágenes dentro de la plataforma. Mediante una publicación en su blog, la compañía ha querido compartir el trabajo que ha estado realizando para mejorar su algoritmo y el camino a seguir a través de su iniciativa de Aprendizaje Automático Responsable.
Machine learning may seem technical but it's what helps us show you relevant Tweets and Topics, and take action on Tweets that may break our rules.
We're sharing more about the work we're doing to develop responsible ways to use ML to benefit you: https://t.co/FOFYH36TCe
— Twitter Support (@TwitterSupport) April 14, 2021
Esta iniciativa se basa en los siguientes pilares:
- Asumir la responsabilidad de sus decisiones algorítmicas.
- Equidad y justicia de los resultados.
- Transparencia sobre sus decisiones y cómo llegan a ellas.
- Habilitación de la elección algorítmica y de agencia.
Twitter afirma ser consciente de que su algoritmo «puede afectar a cientos de millones de tuits por día» y que es posible que, a veces, pueda comportarse de forma distinta a como estaba previsto. Con su nueva iniciativa, buscan detectar estos fallos de funcionamiento y priorizar los más importantes para que la plataforma pueda solucionarlos lo antes posible.
Cómo se llevará a cabo la iniciativa
El equipo de trabajo de la nueva iniciativa de Twitter está formado por trabajadores de toda la empresa, incluyendo equipos técnicos, de investigación, de seguridad y de productos.
Liderando el grupo que se dedicará a resolver los posibles efectos dañinos de las decisiones algorítmicas se encuentra el equipo de «Ética, Transparencia y Responsabilidad» (META) de Twitter. Este equipo está formado por ingenieros, investigadores y científicos que evaluarán «los daños no intencionados posteriores o actuales en los algoritmos» y ayudarán a Twitter a detectar y priorizar los problemas que deben tratar en primer lugar.
De momento, la plataforma indica que están realizando análisis y estudios para evaluar la existencia de daños potenciales en sus algoritmos. De momento han adoptado tres líneas de estudio cuyos resultados pondrán a disposición de los usuarios en los próximos meses:
- Un análisis del sesgo racial y de género del algoritmo de recorte de imágenes.
- Evaluación de las recomendaciones del timeline en todos los subgrupos raciales.
- Análisis de recomendaciones de contenido para diferentes ideologías políticas en siete países.
La compañía afirma que los resultados de sus análisis e investigaciones, así como la aplicación de los mismos, servirán «para mejorar la experiencia que la gente tiene en Twitter«.
Cuáles serán los resultados de la iniciativa
Tal y como indica la plataforma, puede que este trabajo lleve a cambiar el producto de la aplicación realizando acciones como la eliminación de algunos de sus algoritmos y dar a los usuarios más control sobre las imágenes que tuitean. También podría derivar en nuevos estándares sobre cómo la compañía diseña y crea políticas, especialmente cuando éstas tienen un gran impacto sobre una comunidad en particular.
No obstante, también es posible que los resultados de este trabajo no provoquen cambios tan visibles en el producto como los supuestos anteriores, pero, igualmente, puede que lleven a generar una mayor conciencia sobre la forma en que Twitter lleva a cabo y aplica el aprendizaje automático.
Parte del objetivo de la iniciativa de Twitter es que los usuarios comprendan mejor cómo funciona su algoritmo, es por esto que buscan que las soluciones que lleven a cabo sean explicables para compartirlas con la comunidad. Además, la compañía también busca que los usuarios tengan «más participación y control en la configuración de lo que quieren que sea Twitter para ellos». Indican que, de momento, se encuentran en las primeras etapas de exploración de este tema, y que pronto compartirán más información.
Además, Twitter anima a todo aquel que tenga alguna pregunta a llevarla a cabo mediante el uso del hashtag #AskTwitterMETA.
