Apple detectó un error que puede ser fatal para la Inteligencia Artificial

Estos sistemas podrían estar muy lejos de alcanzar las expectativas de una inteligencia comparable a la humana.

Por:

Alexis Montiveros

La Inteligencia Artificial (IA) ha sido una de las áreas tecnológicas que más ha avanzado en los últimos años, impulsando la creación de modelos de razonamiento cada vez más sofisticados. Sin embargo, un reciente estudio de Apple ha revelado un importante fallo en los llamados Large Reasoning Models (LRMs), modelos de inteligencia artificial que se especializan en razonamiento lógico. Estos sistemas, que incluyen algunos de los nombres más conocidos como los de OpenAI y Google, podrían estar muy lejos de alcanzar las expectativas de una inteligencia comparable a la humana.

¿Qué reveló el estudio de Apple sobre los modelos de razonamiento?

El estudio de Apple destaca que los LRMs son capaces de realizar tareas simples de razonamiento con gran precisión, pero su rendimiento colapsa cuando se enfrentan a problemas más complejos. El comportamiento de estos modelos, que se espera que puedan razonar de manera efectiva como los humanos, muestra una realidad alarmante: cuando la dificultad de los problemas aumenta, la precisión de los modelos disminuye drásticamente.

Según los investigadores de Apple, los LRMs comienzan a fallar cuando enfrentan rompecabezas complejos, como los clásicos desafíos de lógica matemática o problemas de programación que involucran un mayor número de variables. Este colapso ocurre incluso cuando se aumenta la potencia de cálculo disponible para los modelos, lo que demuestra que el problema no se puede solucionar simplemente con más recursos.

¿Cómo fue la evaluación de los modelos de razonamiento?

Los investigadores de Apple utilizaron puzzles lógicos clásicos, como el famoso Torre de Hanoi, para evaluar la capacidad de razonamiento de los modelos. Estos puzzles requieren una planificación y ejecución precisa, lo que los convierte en una excelente manera de probar la capacidad de razonamiento de un sistema. Sin embargo, el estudio mostró que los modelos evaluados fallaban al llegar a cierto umbral de complejidad. Por ejemplo, Claude 3.7 Sonnet + Thinking y DeepSeek R1 comenzaron a fallar en el puzzle de la Torre de Hanoi con tan solo cinco discos adicionales, un incremento relativamente pequeño en términos de dificultad.

¿Qué significa “La Ilusión del Pensamiento”?

Un hallazgo clave del estudio de Apple es el concepto de lo que se ha denominado “La Ilusión del Pensamiento”. Aunque los LRMs parecen pensar de manera efectiva en problemas simples, el estudio revela que en realidad no están razonando como lo haría un ser humano. Más bien, estos modelos solo simulan un proceso de razonamiento sin comprender realmente el problema. Esto se observa especialmente cuando los modelos se enfrentan a problemas de mayor complejidad, ya que empiezan a abandonar el esfuerzo de razonamiento incluso cuando las instrucciones son claras.

¿Qué dice este estudio sobre el futuro de la Inteligencia Artificial?

El estudio ha generado un importante debate sobre el futuro de la IA, ya que desafía la idea de que los LRMs puedan algún día alcanzar la inteligencia general, o la capacidad de razonamiento comparable al pensamiento humano. Si bien estos modelos son efectivos en tareas simples, la falta de rendimiento ante desafíos más complejos plantea interrogantes sobre sus aplicaciones en el mundo real, donde los problemas suelen tener una mayor complejidad y requieren un razonamiento más sofisticado.

¿Cómo afecta esto a las decisiones de Apple respecto a la IA?

Este descubrimiento también explica la cautela de Apple a la hora de integrar la IA de manera masiva en sus dispositivos. Mientras que otras compañías como Google y Samsung han apostado fuertemente por incorporar capacidades avanzadas de IA en sus productos, Apple ha optado por un enfoque más gradual y prudente. El estudio refuerza la postura de Apple de no apresurarse a implementar tecnologías que aún presentan importantes limitaciones, especialmente cuando se trata de inteligencia artificial aplicada al razonamiento y la toma de decisiones.

¿Es esta limitación exclusiva de Apple?

No necesariamente. Otros expertos en IA, como Gary Marcus, han señalado que los humanos también tienen limitaciones evidentes en tareas de razonamiento complejas. Sin embargo, lo que el estudio de Apple deja claro es que, aunque los LRMs han avanzado en áreas específicas, todavía están muy lejos de ser capaces de pensar de manera flexible y eficaz en una variedad de contextos complejos.