生成式人工智能的内容安全风险及其治理路径研究——基于行动者网络理论

摘要:
摘要： 研究目的 随着生成式人工智能在网络空间的广泛应用，围绕其产业链的内容安全风险逐渐凸显，从模型层到应用层，它不断冲击着原有的内容供给安全和内容生成生态，并从内容域进一步扩散，逐步影响到政治、法律以及伦理等诸多领域，使得网络空间的内容安全面临传统风险、新型风险以及生成式人工智能带来的潜在风险等多重挑战。因此，针对生成式人工智能内容治理显得尤为重要。 研究方法 基于行动者网络理论中对人与技术的异质建构，现阶段，应当构建面向内容安全风险的治理行动者网络，着重强调政府部门在事前风险防范、风险常态化监管、事中即时处置以及事后有效重建中的核心决策者地位，并发挥算法、制度文本等异质行动者的治理效用。 研究结论 在具体治理路径上，形成以政府部门为主导力量，以文本协同为路径支撑、以风险识别为行为导向、以情境建构为重建原则，以生成式人工智能的内容安全风险为治理主线的可执行多重行动者网络体系，共同应对生成式人工智能带来的内容安全挑战。