¿La IA no comprueba la veracidad de los datos y en realidad no piensa? ¿Simplemente procesa datos a alta velocidad pero sin verificar su validez?

Sí, básicamente así es. No "piensa" como un humano ni verifica activamente la veracidad de los datos. Procesa información a alta velocidad, identifica patrones y genera respuestas basadas en sus datos de entrenamiento y, si se solicita, en búsquedas en tiempo real. Las respuestas dependen de la calidad de esos datos, pero no tiene un mecanismo interno para juzgar si son ciertos o falsos.

Piénsalo así: es como una super calculadora de información que organiza y sintetiza datos, pero la validación de su verdad recae en el usuario o en la calidad de las fuentes.

Por tanto, es un peligro en manos de alguien que realmente no sea un experto en el tema y de por válido todo la respuesta a la pregunta que se le haga.