Substack ha incorporado a su aplicación una herramienta de detección de textos generados con inteligencia artificial desarrollada por Pangram. La función permitirá que los lectores examinen los contenidos publicados en la plataforma y reciban una estimación sobre su posible origen humano o automatizado.
El sistema podrá utilizarse en artículos, notas, respuestas y comentarios que superen los cien caracteres. El resultado mostrará una estimación, no una certeza, sobre el porcentaje del texto que podría haber sido producido mediante inteligencia artificial, informa Substack.
La decisión sitúa a Substack entre las plataformas que están introduciendo sistemas para identificar o etiquetar contenidos creados con herramientas generativas. Redes sociales y servicios de distribución de música ya emplean mecanismos similares para informar sobre imágenes, vídeos o canciones producidos total o parcialmente con inteligencia artificial.
La incorporación de este sistema podría revelar que algunas publicaciones alojadas en Substack no han sido escritas íntegramente por sus autores. A corto plazo, esto podría afectar a la confianza de los lectores en determinadas newsletters, aunque la compañía considera que una mayor transparencia puede reforzar a largo plazo la credibilidad de la plataforma.
Substack no prohibirá ni penalizará el uso de IA. Su objetivo declarado es animar a los autores a explicar cómo producen sus contenidos y qué papel desempeñan las herramientas automatizadas en su proceso de escritura.
Los creadores podrán añadir voluntariamente una nota sobre el uso de inteligencia artificial. En ella podrán detallar si han empleado estas tecnologías para redactar, editar, resumir, corregir o desarrollar alguna parte de la publicación.
Los autores también podrán analizar sus borradores antes de publicarlos. Además, tendrán la posibilidad de comunicar posibles errores del detector y solicitar la retirada de análisis realizados sobre sus propios contenidos cuando consideren que el resultado no es correcto.
La utilidad de este tipo de sistemas continúa siendo objeto de debate, ya que los detectores de inteligencia artificial ofrecen probabilidades y pueden producir falsos positivos. Por ello, la herramienta de Substack se presenta como un mecanismo de orientación y transparencia, no como una prueba definitiva sobre la autoría de un texto.
