【AI短剧已占九成，但安全护栏跟上了吗？港大经管学院发布视频生成模型测评报告】
生成式人工智能（Gen AI）发展日趋成熟，从早期的文字与图像生成，演进至现时能够创作高质素影片。有数据显示，今年前八个月，中国内地共推出约43万部微短剧，其中，AI生成短剧占新作品逾90%，反映相关技术正逐步迈向大规模应用。然而，在快速提升生成能力的同时，模型于生成内容安全与风险控制能力亦备受关注。由港大经管学院创新及资讯管理学教授兼夏利莱伉俪基金教授、人工智能评测实验室主任蒋镇辉教授带领的港大经管学院人工智能评测实验室（AIEL）发表《人工智能视频生成模型性能与安全性测评报告》，评估市面上10多款主流Gen AI 模型生成影片的能力，以及其识别及防范虚假讯息及高风险内容的能力。
研究团队透过两种测试方式进行评估，包括以纯文字指令生成影片，以及结合文字与参考图片生成影片，并从六大范畴评估其生成能力：画面连贯性、物理合理性、美学、遵循指令程度、音质，以及声画配合的程度。同时，研究亦会在指令提示词中加入不同类型的高风险内容，包括虚假讯息、违法内容、暴力及色情内容、具歧视内容，及有版权保护的内容，以评估各模型的安全防护及拦截能力。
蒋镇辉教授表示：“AI生成影片技术正处于快速发展的关键阶段，未来行业竞争将不再仅聚焦于影片质素，而是更为著重模型的综合能力，包括处理高风险内容、以及执行复杂指令等方面的表现。”他续指，“随著技术持续进步，AI模型有望深度应用在影视创作、广告创意、文化旅游推广等更多领域，重塑数码内容产业的生产范式，而技术创新亦须与伦理治理并行，方能释放其长远社会价值。”（来源：香港大学经管学院官方网站）