La Inteligencia artificial ha crecido leyendo, analizando, codificando y registrando patrones que, en ocasiones, están manipulados, sesgados o mal combinados. Es como un niño que crece rodeado de mal ambiente y malas compañías.
Cuando ese niño sea mayor, habrá normalizado e interiorizado ciertos comportamientos que no tienen por qué ser los adecuados. La Inteligencia Artificial es así, se deja influenciar tanto de las buenas compañías como de las malas. Para protegerla de estas últimas hay que enseñarla y guiarla.
Para ello se acude a los corpus, el material con el que se entrena a la IA. Pueden ser textos, conversaciones, foros, artículos… Son un conjunto infinito de datos.
Cuanto mayor sea el corpus, más exacta será la respuesta.
Sin embargo, no por ello la IA se convierte en una enciclopedia sabelotodo.
Existen ocasiones en las que alguien le pregunta y ésta responde con mucha seguridad, y se tiende a asumir que lo que dice va a misa. La tecnología tiene unos niveles de precisión altísimos, pero también tiene sus cositas, y en esta vida siempre se debe dudar y ser escéptico.
Quien duda no se acomoda, sino que se replantea, se mueve y contrasta, y lo que hoy se cuestiona, mañana se entiende.
La falta de escepticismo en el entorno de la tecnología se llama sesgo de automatización.
Es esa confianza excesiva en las máquinas al asumir que, al contrario que los humanos, las máquinas nunca se equivocan. Los algoritmos imitan patrones sociales y, al fin y al cabo, la IA no es más que un amplificador de nuestra sociedad.
Esto no quiere decir que la tecnología sea mala y no se deba hacer uso de ella, sino que por mucho que cuente con una cantidad ingente de datos, la IA no es invencible y se debe prestar especial atención a la calidad, los sesgos sociales o los resultados éticamente inconvenientes, entre otros.
Uno de los mayores ejemplos en este aspecto ocurrió en 2016 con la creación de Tay: un Bot de Microsoft que se tuvo que dar de baja a las 16 horas tras su lanzamiento en la plataforma ahora llamada X, ya que empezó a tener interacciones ofensivas, misóginas y xenófobas.
Tay solo estaba aplicando el mismo estilo comunicativo que aprendía en tiempo real de la comunidad con la que interactuaba.
Un sistema inteligente reproduce lo que ha visto, para bien o para mal. Lo que escucha, lee y absorbe acaba moldeando su opinión e interpretación de la información. La IA es útil siempre que se acompañe de pensamiento crítico.
