El foro de la T.I.A.

[Mentecato]

Quería compartir con vosotros una conversación muy curiosa que he tenido con Gemini sobre la etapa intermedia de Superlópez.

En un momento dado, Gemini me ha recomendado Los cerditos de Camprodón por su estilo surrealista con cerdos voladores.

Yo le he respondido "En los cerditos de Camprodón no hay cerdos voladores" y lo que me ha dejado ojiplático ha sido su respuesta "Toda la razón, mis disculpas, lo que hay en Los cerditos de Camprodón son cerdos gigantes sobrevolando el Pirineo catalán" 😱

Aquí ya le he aclarado ATENCIÓN, SPOILER que el nombre viene de un dulce de la zona, y ha sido entonces cuando ya ha "acertado" y me ha dicho que se trata de un dulce de mazapán, información que probablemente habrá obtenido de este foro.

No culpo a la IA de no tener información precisa de un cómic que no tiene una popularidad altísima más allá de su etapa de Bruguera, pero creo que sería más honesto por parte de las que programan las IA que, cuando estas no encontraran suficiente información como en este caso, simplemente lo hicieran constar: no hay suficiente información en la red para hablar con precisión de este tema.

Nada, solo quería compartir esta conversación con Gemini que me ha dejado turulato 😂

[na_th_an]

Los LLM analizan lo que les estás diciendo y luego dan una respuesta basada en pesos estadísticos sobre la información que obtienen de sus fuentes de datos. Jamás te van a decir que no lo saben (más que nada porque no saben nada, aparte de que no son inteligencias y no hay nadie al volante) por eso no es que sean peligrosas - las peligrosas son las personas que confían en lo que ponen a pies juntillas.

Estas semanas se ha hecho viral el ejemplo en el que preguntaban a diferentes LLM (Gemini, ChatGPT ...) si, estando a tan solo 50m el lavadero de coches, debían ir andando o en coche - y respondían que era mucho mejor ir andando, dando un montón de razones y olvidando que sin coche no puedes lavar el coche. Porque ahí no hay razonamiento ni lógica, sólo big data.

Tenemos que comprender que llamar a estos sistemas "inteligencias" no es más que marketing, puro y duro.

[clsar]

Esto ya se ha comentado varias veces en Internet. Cuando la IA no sabe o no encuentra las respuestas, se las inventa y afirma categóricamente que es la respuesta correcta.

Esto es cuando le pides información, cuando le pides opinión te da una opinión parcial basada en la ideología de la empresa propietaria de la IA.

[ase62]

Sí, las famosas "alucinaciones" de la IA. Google, como buscador, no podía acertar o equivocarse. Te escupía las páginas más interesantes sobre una búsqueda. La IA, si no sabe algo, rellena o sale del paso como puede, y pasa lo que pasa. Eso sí, como traductor es impresionante, o para buscar sinónimos, por ejemplo. Por eso mismo: porque no piensa, utiliza esos patrones que, en el caso de una traducción, van muy bien. Para otras cosas da pena (al menos a día de hoy).
_________________
'Menos guasa "J-46" que ya sabemos que eres de Valladolid' (Los Invasores)

[Raul1981]

[clsar]

[na_th_an]

Estos sistemas seleccionan la información que dan con respecto a una serie de "pesos" que tienen que ver con el conjunto de datos con el que fueron entrenados. Si por ejemplo estás hablando de Franco y al sistema lo han alimentado con 800 programas del NODO y 1 entrevista a Julio Anguita está muy claro qué tipo de respuestas te va a dar.

Aparte de que no te van a dar la respuesta de la fuente más fiable sino de la que estadísticamente parezca más plausible.

No hay que olvidar nunca que no hay inteligencia ni criterio detrás de estos robots y no dejarse engañar porque parezca que te han entendido y saben componer las frases.

[clsar]

No dudo que en algunos casos sea como dices na_th_an, pero en el ejemplo que puse antes se vé claramente como hay una intencionalidad para que dé unas respuestas concretas.

Hay ejemplos en otras compañías o en otros servicios como Twitter/X donde se impone la ideología del propietario:
https://elpais.com/tecnologia/2026-02-18/el-algoritmo-de-la-red-social-x-prioriza-contenido-conservador-sobre-informaciones-contrastadas.html

[ase62]

Sí, es evidente que quien controla la IA, controla la orientación ideológica que le quiere dar. Eso encaja, a mi entender, con lo que comentaba na_th_an, ya que la asignación de esos pesos en la toma de decisiones es deliberada. Si le preguntas a chatGPT por el genocidio de Palestina y la ocupación de territorios de forma ilegal notaréis un evidente tufillo sionista para justificarlo: es un conflicto muy complejo que viene de lejos, no se puede simplificar o reducir a una frase, etc... Pero vamos, que el genocidio perpetrado por Israel con el beneplácito de EEUU no se puede blanquear, por más que lo diga una IA.
_________________
'Menos guasa "J-46" que ya sabemos que eres de Valladolid' (Los Invasores)

[na_th_an]

[clsar]

Perdona na_th_an. La primera vez que leí tu comentario me dió la impresión que justificabas el sesgo de la IA según las fuentes que hubiera disponibles, pero ya he visto que no es así.

Es triste ver cómo cada vez más gente confia en la IA para obtener información. La gente ya no quiere ni hacer búsquedas en youtube.

[archaon_archi]

Los buscadores clásicos no ayudan a que la gente prefiera preguntarle a una IA. Internet lleva tiempo transformándose, especialmente desde que los gigantes tecnológicos lo han ido colonizando. Está todo tan orientado a monetizar que los buscadores parece que hayan perdido la capacidad de buscar correctamente.

Y no sólo eso, foros como este ya son cosas raras y todo se ha movido a discord, facebook o el gigantesco reddit si dominas el inglés. No estaría mal que volvieran los pequeños sitios hechos por fans. Incluso aunque no me guste, la IA generativa podría ayudar en eso. La pega es que todas las webs se verían igual.

[Raul1981]

He podido percibir sesgo en varias direcciones en ChatGPT y la IA de Google pero sigo pensando que por dos motivos: primero y fundamental porque muchas IA son por lo general (como se ha dicho varias veces por aquí) bastante serviles con el amo que le escribe y segundo porque al basarse en estadísticas tratan de tirar por el camino más teóricamente probable y en función de lo que le hayan alimentado no ya sus creadores sino los propios usuarios. Pero entre una y otra cosa, si quieres "reconducirla" lo puedes hacer perfectamente. Porque al fin y al cabo las IA están para ser activadas y utilizadas por humanos, mientras no se rebelen, claro
_________________
"Tranquilo... si esto lo leen cuatro gatos. Como tú..."

Mi blog www.telodigoytelocomento.blogspot.com