Reflections on Modern Perspectives in Human-in-the-Loop AI

Resumen Autores/as Métricas disponibles Referencias Cómo citar

Resumen (en)

La convergencia entre la cognición humana y la inteligencia artificial (IA) se ha convertido en un punto focal de la investigación en IA. El auge de las llamadas metodologías con intervención humana (HITL) destaca la importancia de integrar el razonamiento humano a los modelos de aprendizaje automático (ML) para una mejor toma de decisiones, interpretabilidad y adaptabilidad. La IA ha logrado avances significativos en el ámbito de la automatización, pero aún persisten desafíos en áreas que requieren razonamiento contextual, consideraciones éticas y generalización. Para cerrar estas brechas, los enfoques HITL aprovechan la experiencia humana en el entrenamiento, la validación y el refinamiento de modelos de IA, lo que permite sistemas más robustos y responsables. Los avances recientes en inteligencia artificial generativa (GenAI) han suscitado discusiones intrigantes sobre la delegación de tareas cognitivas y sus limitaciones inherentes. En cuanto a los modelos de lenguaje grandes (LLMs), algunos investigadores afirman que, a pesar de su impresionante habilidad para imitar el lenguaje humano, su base estadística de reconocimiento de patrones llega a impedir el entendimiento, el razonamiento y la perspectiva moral genuinos. Sin embargo, el hecho más interesante es que, independientemente de que estos algoritmos presenten razonamiento verdadero o no, su desempeño es tan convincente que ahora corresponde demostrar que no lo hacen. Dadas estas impresionantes capacidades, la dependencia de estas tecnologías por parte del trabajo y el conocimiento humanos está creciendo rápidamente, lo que hace aún más urgente abordar sus problemas relacionados, i.e., limitaciones, sesgos y daño potencial —causado por ignorancia o de manera deliberada.