近日，一场名为“超越代码：利用人工智能大规模构建可信软件系统”（Beyond Code: Engineering Trustworthy Software Systems with AI at Scale）的愿景研讨会在旧金山落下帷幕。本次为期两天的活动由计算社区联盟（CCC）与IEEE计算机学会联合举办，汇聚了来自学术界、工业界、政府及非政府组织的数十位顶尖专家，旨在共同应对人工智能在软件开发领域引发的深刻变革，并规划未来的发展路径。
随着AI编程工具从简单的代码片段生成向构建复杂、相互依赖的大型软件系统演进，如何确保这些系统的可信赖性成为核心议题。本次研讨会正是为了应对这一挑战而召开，与会专家围绕技术方法论、工具链以及开发者角色转变等维度展开了深入探讨。
01从“编码”到“工程”：AI角色的三重变革
研讨会组织者之一，弗吉尼亚大学计算机科学教授塞巴斯蒂安·埃尔鲍姆（Sebastian Elbaum）在会前表示，他希望每位与会者都能对AI驱动开发工具的未来形成更清晰的愿景。“在第二天结束时，我希望我们能勾勒出这场革命的骨架。”
会议议程紧扣三大核心主题展开讨论：
- 方法论革新：探讨如何改进AI的工作流程、部署方式、审计机制及运行时环境，以确保其在开发生命周期中的稳定性和可靠性。
- 工具链安全与可信：聚焦于如何让AI工具本身变得更加安全、透明和值得信赖，从而使其输出的代码和系统设计具备企业级应用的基础。
- 人机协作新范式：深入研究如何更精准地捕捉人类开发者的意图，平衡人类工效学与机器能力，并评估随着系统自动化程度提高，人类开发者角色将如何发生演变。
02行业视野：信任与治理是关键
值得注意的是，此次研讨会召开之际，正值全球科技巨头加速布局企业级AI。IBM近期在其TechXchange 2025大会上展示了多项更新，并强调了AI在企业的“可用性”挑战。IBM软件高级副总裁迪内什·尼尔马尔（Dinesh Nirmal）指出，尽管Hugging Face上有数以百万计的模型，但真正能被企业使用的寥寥无几，因为企业需要满足安全、治理和可解释性要求的AI工具。
IBM研究院首席科学家鲁奇尔·普里（Ruchir Puri）的观点与研讨会主题不谋而合：“与传统应用不同，AI智能体可以开始执行实际工作，协调复杂任务并从上下文中学习。但它们必须像任何关键任务系统一样受到严格治理。” Anthropic首席产品官迈克·克里格（Mike Krieger）也强调，企业正在寻找能够真正信任其代码、数据和日常运营的AI。
03绘制未来路线图
本次“超越代码”研讨会不仅是一次思想碰撞，更是一项具有前瞻性的行动起点。会议通过主题演讲、圆桌讨论和高强度的分组会议，旨在形成一份具体的研究路线图，识别出实现大规模可信AI软件系统的关键突破点。
与会者一致认为，将生成式AI从“沙盒实验”转变为“日常工程工具”并非易事。基础设施的碎片化、工具的割裂以及对AI输出结果的 accountability（问责制）探讨，都是横亘在前进道路上的障碍。
据悉，研讨会成果将形成一份详细的《超越代码研讨会报告》，预计于2026年中期由CCC正式发布。该报告将为研究领域、联邦资助机构及工业界提供关键的建议和方向，以推动整个生态系统朝着更可靠、更强大的AI辅助软件工程迈进。
计算社区联盟（CCC）作为美国计算研究协会（CRA）的项目委员会，长期致力于催化计算研究界对长远、大胆研究挑战的辩论，此次研讨会也获得了美国国家科学基金会（NSF）的支持。随着AI继续重塑软件开发的边界，此次旧金山会议或将成为通往可信赖AI系统工程时代的一个重要里程碑。