“Lo peligroso es que la IA decida por nosotros”

Escribe: Juan Manuel Orbea DE NUESTRA REDACCIÓN

La advertencia volvió a aparecer esta semana desde el propio mundo de la inteligencia artificial. Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, renunció a esta última empresa y cuestionó públicamente la carrera que mantienen los grandes laboratorios para desarrollar sistemas cada vez más potentes. Su preocupación apunta especialmente a la posibilidad de alcanzar inteligencias artificiales capaces de mejorar sus propias capacidades y tomar decisiones con una autonomía que hoy todavía resulta difícil de dimensionar.

En esa misma línea, se expresó Evan Hubinger, investigador de Anthropic, quien sostuvo que dentro de las empresas existe preocupación real por la posibilidad de que una IA llegue a representar un riesgo extremo para la humanidad. Geoffrey Hinton, uno de los principales referentes de esta tecnología, también volvió a hablar de un escenario de riesgo elevado.

La discusión, que parece pertenecer a Silicon Valley, también puede pensarse desde Villa María. Paula Toselli, ingeniera en sistemas de la UTN?Villa María, trabaja con Inteligencia Artificial desde 2010 y desarrolla tareas de consultoría, capacitación e implementación de estas herramientas para profesionales y empresas.

Su mirada no parte del alarmismo. Pero tampoco minimiza el problema. Para nada.

El riesgo existe

­-¿Hay que tener miedo a lo que está pasando con la Inteligencia Artificial?

-Hay un riesgo. Yo no quiero ser alarmista, porque tampoco tenemos toda la información. Muchas de las cosas que están pasando dentro de las empresas las conocemos solamente por lo que trasciende públicamente. Pero sí estamos frente a un momento bisagra.

Para Toselli, el debate actual excede ampliamente la aparición de nuevas aplicaciones capaces de escribir textos, generar imágenes o responder preguntas. El verdadero cambio está relacionado con sistemas que pueden ejecutar tareas, interactuar con otras herramientas y tomar decisiones.

“Lo peligroso no es solo la creación, sino que estamos creando ante inteligencias artificiales autónomas que pueden tomar sus propias decisiones más allá de nosotros”, planteó.

Ahí, explicó, “hay una diferencia importante respecto de otras tecnologías que también modificaron la historia”.

La especialista compara el momento actual con el desarrollo de la energía nuclear. La ciencia permitió alcanzar un conocimiento extraordinario, pero ese conocimiento también fue utilizado para desarrollar armas de enorme capacidad destructiva. Para Toselli, el problema no está únicamente en la herramienta, sino en el uso que las personas hagan de ella y en la carrera por conseguir poder, dinero o el de llegar primero.

Con la inteligencia artificial aparece, además, una característica nueva: la posibilidad de delegar determinadas decisiones en sistemas autónomos.

Una revolución, dos caras

Toselli insiste en que hablar de riesgos no significa desconocer los enormes beneficios que, sostuvo,  “ya está produciendo la Inteligencia Artificial”.

En su experiencia profesional trabajó, por ejemplo, con una industria cordobesa en la aplicación de redes neuronales para controlar la calidad de la producción. También participó de desarrollos para empresas locales que incorporaron sistemas de pre-recepción de pedidos y agentes inteligentes.

Los avances son todavía más significativos en áreas como la medicina. La IA está siendo utilizada para detectar enfermedades de manera temprana, analizar imágenes, acelerar investigaciones sobre cáncer y estudiar nuevos medicamentos. También permite procesar enormes cantidades de información genética que, hasta hace pocos años, resultaban prácticamente imposibles de analizar en tiempos razonables.

“Realmente, es un cambio revolucionario”, sostuvo.

El desafío, entonces, es cómo acompañar ese cambio sin quedar detrás en esta loca carrera.

¿Quién pone los límites?

Toselli, además, señaló que  uno de los problemas es que “las leyes y las normas sociales avanzan mucho más lentamente que la tecnología”.

-¿Alcanza con que cada persona aprenda a utilizar Inteligencia Artificial?

-No. Tenemos que entender qué estamos usando. Qué son los agentes, qué pueden hacer, qué no pueden hacer y qué información estamos entregando. Hay que empezar a ocuparnos un poco más e ir a la misma velocidad que va la IA.

Afirmó que “la regulación estatal aparece, en ese escenario, como una herramienta necesaria”. Pero también la educación y la responsabilidad individual, ya que, como dijo, “no se trata solo de saber utilizar ChatGPT u otra aplicación, sino de comprender qué ocurre detrás de esas herramientas”.

La especialista puso especial énfasis en la información personal. Fotografías, documentos laborales, datos de clientes o información confidencial pueden terminar formando parte de sistemas sobre los que el usuario desconoce completamente qué tratamiento reciben.

“Entre juego y juego, estamos alimentando la Inteligencia Artificial, y acá las personas son las que tiene que tener mucho cuidado”, advirtió.

Por eso, recomienda prestar atención incluso a acciones aparentemente inocentes, como subir fotografías personales o de niños a determinadas plataformas. También señaló que compartir documentos de clientes con herramientas de IA “puede generar problemas vinculados con la protección de datos, sobre todo según el contexto”.

¿Y si pasa “Terminator”?

La pregunta es casi inevitable. ¿Puede una inteligencia artificial llegar a un escenario como el de las películas, donde la IA toma el control creando sus propios robots morales?

Toselli es prudente.

-¿Y hoy podría pasar algo como Terminator?

-Hoy te diría que no. Hollywood sigue siendo Hollywood. Pero no podría asegurártelo para los próximos cinco años, o incluso en uno.

La frase resume buena parte de su posición. Y es que no hay certezas sobre hasta dónde llegará la tecnología, pero tampoco consideró razonable ignorar los riesgos mientras se espera a que aparezcan.

Para Toselli, el mundo ya ingresó en una etapa diferente –que llama “la Revolución 4.0– y hay que saber convivir con ella. Así que la discusión no debe quedar restringida a los laboratorios tecnológicos ni a las grandes empresas, ya que involucra a gobiernos, instituciones educativas, empresas y ciudadanos”.

“Ya estamos en una nueva era”, afirmó.

Y dejó una última reflexión: “Yo confío en que, así como nos parece que tenemos miedo sobre la IA, seguramente ese miedo lo han tenido en otras épocas frente a otras evoluciones y cambios radicales. Pero hay que sentarse y ocuparse”.