Crece el desafío de las reseñas falsas impulsadas por IA en plataformas digitales

Herramientas de IA: facilitadoras de reseñas falsas y un reto para las plataformas digitales

Las herramientas de inteligencia artificial generativa, como ChatGPT, están transformando la creación de contenido en línea, incluyendo las reseñas de productos y servicios. Sin embargo, su uso indebido también facilitó la proliferación de comentarios fraudulentos, afectando a consumidores y empresas, según expertos e investigadores.

Desde mediados de 2023, plataformas como Amazony Yelpenfrentan un desafío creciente: reseñas falsas generadas por inteligencia artificial. Según The Transparency Company, el 14% de las reseñas en sectores clave, como servicios médicos y legales,son posiblemente fraudulentas, y 2,3 millones de estas fueron generadas parcial o completamente por IA.

Durante temporadas de alta demanda, como la Navidad, los consumidores dependen de reseñas confiables, pero la detección de comentarios fraudulentos se complica debido a la credibilidad de los textos generados por IA. Ante esta situación, la Comisión Federal de Comercio (FTC) en Estados Unidos implementó nuevas normas en octubre, prohibiendo la compra y venta de reseñas falsas y permitiendo multar a empresas responsables. Además, en septiembre, la FTC demandó a Rytr, una plataforma de generación de texto, por facilitar la creación de reseñas fraudulentas en masa.

A pesar de estas medidas, las plataformas digitales enfrentan limitaciones técnicas para identificar patrones de abuso, según Max Spero, CEO de Pangram Labs. La detección de fraudes requiere acceso a datos internos, y los sistemas actuales no son infalibles.

Empresas como Amazonpermiten reseñas asistidas por IA si reflejan experiencias reales, mientras Yelp prohíbe cualquier contenido generado por estas herramientas. Por su parte, la Coalición para Reseñas Confiables, que incluye a empresas como Tripadvisor, trabaja en desarrollar estándares que fortalezcan la integridad de las reseñas en línea.

Los expertos aconsejan a los consumidores estar atentos a señales como el uso excesivo de frases genéricas, entusiasmo desmedido o la repetición de términos específicos. Según investigaciones, incluso los detectores automatizados pueden fallar al analizar textos cortos. El equilibrio entre la detección de fraudes y el uso legítimo de IA sigue siendo un reto, pero el desarrollo de herramientas avanzadas y el fortalecimiento de las regulaciones son pasos clave para garantizar la confianza en las plataformas digitales.

Inteligencia ArtificialfraudeAmazon