FIT5122 AI Bullshit ACS ethics bit
视频核心问题
当你使用生成式 AI 撰写报告,并在报告上署上自己的名字时,这份报告就等同于由你本人认可和提交。
因此,需要思考:
使用生成式 AI 生成自己并不完全理解、没有验证的内容,是否符合 ACS Code of Professional Ethics(澳大利亚计算机协会职业道德准则)?
1. 对工作结果负责
ACS 职业道德准则中的 Trustworthiness(可信赖性) 要求 IT 专业人员:
对自己承担的所有工作负责,并为成功或失败承担责任。
即使报告由 AI 生成,只要最终署上了自己的名字,就不能在出现错误时声称:
- “这是 AI 写的,不是我写的。”
- “我以为 AI 给出的内容应该是正确的。”
- “我只是直接采用了 AI 的答案。”
署名意味着认可,也意味着承担责任。
2. 必须独立验证 AI 生成的内容
使用 AI 后,不能仅仅假设生成结果是正确的,而应当:
- 检查事实是否准确;
- 验证引用和资料来源;
- 判断论证是否合理;
- 确认内容是否真正回答了任务要求;
- 对不确定的信息进行进一步调查。
如果没有进行独立验证,就很难证明自己对最终成果承担了专业责任。
3. 如实说明自己的能力
ACS 准则还要求专业人员:
在接受、执行和交付工作时,清楚说明自己的能力,以及可能需要改进的知识或技能不足。
如果一个人提交了一份自己并不理解的 AI 生成报告,就可能造成一种错误印象:仿佛他具备完成这项工作的知识与能力。
例如,如果你:
- 无法解释报告中的概念;
- 不理解 AI 提出的技术方案;
- 不知道如何判断数据是否正确;
- 无法回答别人对报告的提问;
那么就不能说自己真正具备完成和交付该工作的能力。
4. 保持专业胜任能力
ACS 准则要求 IT 专业人员:
对自己尝试承担的工作具备相应能力。
生成式 AI 可以协助完成工作,但不能代替专业能力本身。
真正的专业胜任能力包括:
- 理解生成的内容;
- 判断内容质量;
- 发现错误和虚假信息;
- 修改不适合的部分;
- 对最终结果进行解释和辩护。
如果一个人只是复制 AI 输出,却无法判断其准确性,那么这不属于负责任的专业实践。
5. 知识产权与版权问题
视频最后指出,使用生成式 AI 还可能涉及:
- 知识产权;
- 版权;
- 对他人作品的尊重;
- AI 输出内容的来源问题。
这些问题会在课程后续部分进一步讨论。
视频结论
生成式 AI 本身并不是问题,关键在于使用者是否进行了专业判断。
当你把名字放在 AI 生成的报告上时,你就必须:
- 对最终内容承担责任;
- 独立验证信息的准确性;
- 确保自己理解所提交的内容;
- 如实反映自己的实际能力;
- 遵守知识产权和版权要求。
AI 可以协助完成工作,但责任不能交给 AI。最终提交者仍然需要为成果的真实性、准确性和专业性负责。