En industrias altamente reguladas como la finanza o la medicina, la inteligencia artificial podría representar un riesgo.

Más específicamente, productos que utilizan LLM o Modelos de Lenguaje Grande como ChatGPT, Gemini o Claude. Los mencionados anteriormente son productos multimodales que utilizan LLM, pero en este caso nos enfocaremos en su aspecto de LLM.

Vamos directo al grano: la inteligencia artificial está alucinando; pero, ¿qué significa eso? La explicación técnica es que si un usuario le da una instrucción al modelo, si no está bien entrenado, el transformador decodifica e interpreta la instrucción incorrectamente y te da una respuesta incorrecta. IBM lo explica así.

Más concretamente: le das una instrucción y el modelo te da la respuesta más probable basada en sus datos de entrenamiento, pero está lejos de la realidad: mira estos ejemplos:

• Un agente de IA médica que me dice que tengo COVID cuando en realidad tengo la gripe común.

• Un agente de IA financiera que me dice que para mejorar financieramente todo lo que tengo que hacer es robar un banco.

La primera es la respuesta equivocada y la segunda es simplemente ilegal, pero correcta. No podemos actuar con ninguna de ellas. El agente de IA es efectivamente una extensión de la empresa y como empresa es crítico poder asesorar a los usuarios en una dirección correcta, ética y legal. Es importante que los usuarios no vayan a prisión.

Esto sucede porque los LLM piensan de manera probabilística. Los factores que definen las probabilidades son:

• Los datos de entrenamiento

• Los procesos de refuerzo

• Los pesos de sus parámetros

Y de ahí surge la siguiente palabra o idea como “la más probable”.

Más fácil decirlo que hacerlo: la solución es tener un equipo especializado en inteligencia artificial, que tenga la capacidad de diseñar la manera en que la IA entrena y piensa. Promoción descarada: en Moneda podemos proporcionar este servicio.

Piero Silverio
Brand & Business Strategy

Hector Terrero