认识一下保持 AI 代理值得信赖的人择工程师

如果您曾经想知道克劳德和类似的人工智能代理如何在几秒钟内回答复杂的问题以及他们从哪里获得信息，那么您并不孤单。

作为旧金山 Anthropic 公司（Claude 背后的人工智能研究公司）的一名工程师，Gurmeet Saran 每天都在努力寻找答案。 IEEE 高级会员正在开发一个基础设施，以了解聊天机器人行为背后的机制，并确保其底层架构产生可靠的输出。

古米特·萨兰

雇主

旧金山的人类

标题

技术人员成员

会员等级

IEEE高级会员

母校

印度卡利亚尼大学；印度皮拉尼的比尔拉技术与科学研究所

“我的工作是确保数据准确、结构化且值得信赖，并确保私人数据保持私密性，”他说。 “正如我在职业生涯早期了解到的那样，隐私不能成为你附加的一层——它必须从一开始就成为架构的一部分。”他补充道，如果你不能相信其中的逻辑，你就无法对这种行为做出可靠的断言，而这会产生真正的安全隐患。

他说，安全是 Anthropic 的首要任务。根据克劳德的使命宣言，该公司希望人工智能代理“真正为与其合作或代表其工作的人以及社会提供帮助，同时避免不安全、不道德或欺骗性的行为。”萨兰说，这项任务的关键是确保研究人员能够观察和理解人工智能模型的行为方式，这对于大型语言模型来说尤其严峻。

“我们有不错的工具来监控数据库和网络服务，”他说，“但对于法学硕士来说，我们仍在弄清楚这一点。”

解决 Yahoo、Intuit 和 Meta 的数据质量问题

萨兰对计算机系统的兴趣可以追溯到他在加尔各答的童年，在那里他尽可能多地呆在学校计算机实验室。

“我记得我第一次使用其中一台计算机时的情景，”他说。 “让我印象深刻的是，你可以编写指令，机器会准确地遵循它们。没有歧义。

“这对我来说感觉很神奇。”

1999年高中毕业后，他留在印度攻读高级学位。 2004 年，他在卡利亚尼大学获得了电子和电信工程学士学位。 2010 年，他获得了皮拉尼 Birla 技术与科学研究所的软件工程硕士学位。

作为一名研究生，他于 2007 年在雅虎开始了自己的职业生涯，担任印度班加罗尔数据团队的技术主管。在那里，他遇到了塑造他职业轨迹的项目：致力于网络分析和商业智能报告解决方案。

“我们不断遇到令人沮丧的问题，”他回忆道。 “不同的团队会使用稍微不同的逻辑来计算相同的网站指标（例如每日活跃网站用户），并最终得到相互矛盾的答案。这听起来像是一个小问题，但当领导层使用这些数据做出有关资源分配和产品开发的决策时，不知道哪个数字是正确的就会成为问题。”

该团队构建了一个具有定义指标的中央数据存储库，本质上充当单一事实来源。 Saran 创建了一个模型，定义了“每日活跃站点用户”的含义，详细说明了哪些事件被计数、如何处理边缘情况（或标准代码失败时）等等。

通过新模型，整个公司的数据团队可以依靠标准方法来确定他们负责的项目和网站的每日活跃用户数量，并使用相同的逻辑获得可比较的结果。

从那时起，萨兰和他的团队创建了雅虎！ Digits 是一种用于公司所有产品的内部网络分析工具。

Saran 于 2010 年离开雅虎，加入 Intuit，在加利福尼亚州山景城担任高级工程师。他帮助构建了分析基础设施，统一了公司产品的数据，包括 TurboTax 和 QuickBooks 会计软件。在他任职期间，Intuit 开发了一项实时检测欺诈性税务申报的功能。它要求萨兰和其他工程师建立一个系统来保护纳税人数据，同时遵守严格的美国国税局政策。

“IEEE 在许多国家/地区开展业务，这些国家的工程师无法轻松进入全球专业社区。随着人工智能开发扩展到少数组织之外，这种联系至关重要。”

“这告诉我，隐私和治理不能是事后附加到软件上的层，”他说。 “它们从一开始就必须成为架构的一部分。”

Saran 于 2016 年加入 Meta（当时称为 Facebook），担任加利福尼亚州门洛帕克的首席软件工程师。该公司面临着视频指标的争议：Meta 公开承认了一个错误，导致其夸大了已发布视频的观看次数。

“这不是一个编码错误；这是一个架构问题，”萨兰说。他构建了一个与他在 Intuit 开发的系统类似的系统，其中定义了一个事实来管理整个网站的所有视频观看指标。

该系统 Metric360 最终成为该网站架构的一部分。他说，当他于 2021 年离开 Meta 时，整个公司都在使用 Metric360 来计算视频指标。

他离开公司，成为位于加利福尼亚州帕洛阿尔托的金融服务公司 Wealthfront 的首席软件工程师。他帮助构建了该公司的数据基础设施。

在 Anthropic 构建值得信赖的人工智能系统

Saran 于 2025 年加入 Anthropic，担任技术人员。

为了描述他的工作的意义，他使用了一个医学类比：“想象一下，一名医生正在监测病人的生命体征，并根据这些数字做出治疗决定。如果使用的一个或几个医疗设备稍微校准错误怎么办？即使大多数读数都很好，这也是一个严重的问题，因为困难的决定发生在边缘。

“人工智能系统也是如此。我的工作是……

本文译自国外媒体的英文报道（机器翻译，可能存在语义偏差），点击「查看原文」阅读英文原版。

资讯由采集器定时从公开的机器人 / AI 信息源自动聚合。