更新时间:2026-09-07
导语:当AI Agent走进业务流程,安全教育也要从保护系统扩展到保护智能体。
奥本大学工程学院发布消息称,计算机科学与软件工程系副教授Farah Kandah牵头获得美国国家科学基金会299978美元项目资助,将建设一套面向智能体AI网络安全的教育框架。项目名称聚焦对抗生态中的安全自治,目标是训练学生理解、应用并保护AI Agent。
课程设计包含四个模块:智能体AI导论、将智能体AI应用于网络安全挑战、保护智能体AI系统,以及要求学生构建、保护并评估AI Agent的实践项目。项目团队认为,组织正在快速采用AI Agent、聊天机器人和自动化工具,但传统网络安全教育主要关注网络和计算机系统本身,对智能体的决策链、上下文依赖和工具调用风险覆盖不足。
该课程关注的安全风险包括提示与上下文操纵、模型和数据泄露、智能体工作流被破坏、AI供应链风险等。这些问题之所以重要,是因为智能体系统通常会把多个工具、数据源和任务步骤串联起来,一旦被攻击者干扰,错误可能沿着工作流放大。
计算机科学的新动态正在从模型能力竞赛转向系统可靠性、安全边界和人才培养。尤其在网络安全场景中,AI既是防御工具,也是新的攻击面。
学科观察:该项目计划最早于2027年春季作为选修课推出,并在完成后向其他机构分享课程材料。对于计算机科学教育来说,这意味着网络安全人才培养正在从「会防系统」扩展到「会防自治系统」。未来工程师不仅要懂模型,也要懂权限、审计、工具链、数据边界和失效恢复。
这类资讯能够帮助读者理解计算机学科的前沿重心:不是简单追逐更大的模型,而是让智能系统在真实软件、真实漏洞和真实组织流程中稳定、可控、可验证地工作。