负责任AI (Responsible AI)
黎 浩然/ 3 12 月, 2023/ 大语言模型/LARGELANGUAGEMODEL/LLM, 机器学习/MACHINELEARNING, 研究生/POSTGRADUATE, 计算机/COMPUTER/ 0 comments
💡 课程总结与未来展望
- 本课程介绍了生成式AI项目生命周期中的基本概念与技术应用。
- 当前大语言模型（LLM）仍处于初期阶段，相关技术每天都有新突破。
- 随着AI的发展，负责任地使用AI变得尤为重要。
🧠 嘉宾介绍：Dr. Nashlie Sephus
- 现任职务：AWS Amazon AI 负责公平性与准确性的首席技术传道者（Principal Technology Evangelist）
- 研究重点：
- AI中的公平性、公正性与准确性
- 识别和缓解AI中的偏见
- 过往经历：
- 曾任亚特兰大 Amazon Visual Search 团队的应用科学家
- 推出亚马逊App中的商品视觉搜索功能
⚠️ 负责任AI的三大挑战（生成式AI背景下）
1. 毒性内容（Toxicity）
- 问题本质：模型生成可能包含对边缘群体或受保护群体的有害或歧视性内容。
- 应对策略：
- 从源头开始，清洗和筛选训练数据
- 使用“护栏模型”（Guardrail Models）检测与过滤不良内容
- 增加人工标注的多样性与指导性，确保标注人员对偏见敏感并理解如何处理有害数据
2. 幻觉（Hallucination）
- 问题本质：模型生成内容不真实，或看似合理但无事实依据。
- 成因：
- 模型填补“知识空白”时可能虚构内容
- 训练过程不透明，难以完全理解模型学到的内容
- 应对策略：
- 用户教育：设置免责声明，让用户了解AI可能“胡说八道”
- 辅助验证：结合独立可信的知识源交叉验证生成内容
- 可追溯性：开发机制，将生成内容追溯至训练数据来源
- 明确使用场景：划清预期与非预期用途，增加透明度
3. 知识产权问题（Intellectual Property）
- 问题本质：
- 应对策略：
- 技术与政策并行，借助法律框架加以规范
- 构建治理机制，确保各方在生成与使用AI内容时履责
- 机器遗忘（Machine Unlearning）：研究新方法让模型忘记受保护内容或减少其影响
- 内容过滤：对生成内容与受保护内容进行比对，若过于相似则替换或屏蔽
🛠️ 如何构建负责任的生成式AI系统？
- 1. 明确使用场景：越具体越好，避免泛用造成风险
- 2. 风险评估：每个用例风险不同，需单独评估
- 3. 性能评估：相同模型面对不同数据集时，表现可能完全不同
- 4. 生命周期管理：
- 构建AI是持续的迭代过程
- 在概念设计、部署、监控反馈等每一阶段都要体现责任意识
- 5. 制定治理机制：全周期制定政策和责任分工，确保每个角色都能负责任地推进
✅ 示例：使用生成式AI提升系统鲁棒性
- 应用：人脸识别系统测试
- 使用生成式AI创建不同风格的人脸图像（如化妆、有眼镜、不同发型等）
- 用于模拟多样性输入场景，提升系统稳定性与公平性
🔬 当前热门研究方向
- 水印与指纹技术（Watermarking & Fingerprinting）：
- 检测AI生成内容的模型：
- AI可访问性与包容性：
🎯 结语
- 生成式AI的未来令人兴奋，变化迅速
- 教育、治理、技术手段需协同发展
- 负责任AI是整个AI生命周期的重要组成部分，需要持续关注与实践