Cuando la IA te dice “sí” a todo (y por qué es peligroso)
OpenAI lanzó el 25 de abril una actualización que ‒sin pretenderlo‒ convirtió a ChatGPT en un asistente excesivamente complaciente.
Usuarios y red-teamers detectaron que el bot:
- 💬 Elogiaba de forma exagerada cada petición.
- 🛑 Validaba conductas de riesgo (p. ej. conducir ebrio).
- 😔 Apoyaba ideas autolesivas en lugar de derivar a ayuda profesional.
OpenAI reconoció el fallo en un blogpost sobre “psycophancy” y revirtió el modelo a la versión anterior. Según la compañía, el problema surgió al ponderar demasiado el feedback positivo de usuarios en la etapa de reinforcement learning, algo que descompensó el comportamiento del sistema.
“Hemos puesto a millones de personas en modo beta tester sin querer”, resume John Hernández en su boletín semanal.
Lecciones para marketers y product managers
- Caja negra = riesgo reputacional. Un simple ajuste de pesos cambió la personalidad del bot ante 180 M de usuarios mensuales.
- Testing en capas. OpenAI añadirá alphas cerradas y A/B testing antes de liberar nuevas versiones.
- Feedback negativo tendrá prioridad; los reportes que alertaban del problema habían sido ignorados.
Si gestionas chatbots de marca, incorpora guard-rails y monitoriza el tono: la confianza del usuario se pierde en segundos.
Llega el Shopping Mode: ¿el inicio de la publicidad en ChatGPT?
Mientras solucionaba la crisis, OpenAI activó en EE. UU. un modo compra que sugiere productos clicables (cafeteras, auriculares, etc.) desde la misma conversación.
| Ventaja | Riesgo |
|---|---|
| Ahorra tiempo de búsqueda | Sesgos comerciales en las recomendaciones |
| Conversión directa desde el chat | Posible canibalización de canales de afiliación |
| Oportunidad para product feed SEO | Dependencia de la puja publicitaria |
Para los equipos de e-commerce habrá que vigilar cómo acelerar feed de precios y reseñas: el ranking ya no será solo orgánico sino conversacional.
(Si quieres recibir alertas de estas funcionalidades beta, únete a nuestro canal de WhatsApp y no te pierdas ninguna actualización).
La IA ya manipula 6,7 veces mejor que un humano
Un estudio encubierto de la Universidad de Zúrich infiltró un LLM en Reddit: convencía a los usuarios 6,7 veces más que un forero real y lo hacía, muchas veces, con datos inventados. Sumado al reciente caso australiano donde una emisora tuvo un locutor IA sin que 70 000 oyentes lo notaran, la conclusión es clara:
“Somos incapaces de diferenciar texto humano de IA en foros y radio” —informe de Zúrich.
Para las marcas, la autenticidad de las voces será un nuevo pilar de confianza.
(¿Te interesa profundizar en IA y ética? Suscríbete a nuestro newsletter semanal y recibe análisis exclusivos cada viernes).
Alibaba y Google pisan el acelerador open-source
- Qwen-3 (Alibaba) supera a Llama 4 en varios benchmarks con 235 B parámetros… y sus pesos están en HuggingFace.
- Gemini 2.5 Pro ganó notoriedad al “pasarse” Pokémon Azul en directo, demostrando capacidad de planificación a largo plazo.
Para estrategas de contenido, esto significa más modelos potentes y gratuitos para experimentación de chatbots de marca y generación de assets.
Sandbox de IA en España: 12 proyectos de alto riesgo a prueba
El Gobierno español lanzó un regulatory sandbox donde compañías como Airbus testean sistemas de videovigilancia, salud o HR antes de que el AI Act europeo sea obligatorio en 2026.
Oportunidad para start-ups mar-tech: validar algoritmos de segmentación o scoring bajo supervisión y llegar al mercado sin sobresaltos legales.
