多款AI应用存在涉黄生成漏洞 技术伦理遭挑战。生成式AI技术的广泛应用和快速迭代正深刻改变着人们的生活。随着技术普及，使用门槛大幅降低，从AI视频生成到AI聊天陪伴，这些应用丰富了大众的生活。然而，一些商家背弃技术伦理与法律底线，利用生成式AI制作违法内容，污染网络空间，败坏社会风气。
根据消费者举报线索，在多个互联网平台上进行了检索。在测评过程中发现，如果输入的提示词较为直接，多数AI应用会触发审核机制并拒绝生成内容。但这条防线并不牢固，通过修改提示词使其更加隐晦，便有可能绕过限制。
在一个名为哩布哩布AI的应用中，记者输入网上购买的提示词后，几分钟内就生成了一个半裸女性跳舞的视频。整个过程中没有触发任何限制机制，违规视频顺利生成。同样的问题也出现在其他常见的AI应用平台上。
根据消费者提供的信息，还发现了一款AI照片生成器。这款软件声称“免下载，快速生成，图片、视频换脸”。购买者可以根据充值金额的不同，通过AI技术一键快速替换原片，生成虚构的色情照片。只要愿意付费，该软件甚至可以通过一张图片生成全裸照片和色情视频。
