某中心德国第四研发中心致力于开放式人工智能研究
由研究经理迈克尔·希尔施（左）和软件开发人员斯特凡·莱茨在德国图宾根某中心研究中心合作拍摄。
云计算与系统
某中心在德国的第四个研发中心致力于开放式人工智能研究。
该“小型实验室”（Lablet）的负责人亚瑟·贾迪迪表示，该研究中心的使命与某中心的客户导向及其对社会的责任相一致。
作者：特约撰稿人
日期：2020年4月8日
阅读时长：6分钟
2019年11月下旬，某中心宣布在其位于德国图宾根的研究中心设立一个新部门。图宾根是巴登-符腾堡州中部的一个大学城，位于斯图加特以南约30公里（19英里）。这个研究团队，或称其为某中心所说的“小型实验室”，致力于人工智能的开放式研究，专注于与可解释性、因果关系以及AI系统如何理解其环境相关的长期挑战。该小型实验室是某中心在德国的第四个研发中心的一部分，另外三个分别位于柏林、德累斯顿和亚琛。
亚瑟·贾迪迪是某中心AWS人工智能实验室的高级经理。此前，他曾任博世人工智能中心（位于巴登-符腾堡州伦宁根）的人工智能研究总监。我们就该研究中心自宣布成立以来的最初几个月情况，以及该小型实验室在基础AI研究方面的独特方法，对贾迪迪进行了采访。
问：自小型实验室首次宣布成立以来，最初几个月情况如何？最让您惊讶的是什么？
答：实际上，对我来说仍然感觉像是“第一天”，因为我仍然由衷地对这里优秀的科学家以及申请职位候选人的能力感到敬畏。建立一个植根于每位科学家个人好奇心以及解决AI领域非常困难问题的雄心的团队，这很棒。现在还处于早期阶段，我才刚刚开始想象在这种环境下将发展出的想法范围。
问：某中心更以其应用型研究方法而闻名。然而在宣布小型实验室时，您表示研究中心将采取更由好奇心驱动的方法，而不是专注于渐进式改进产品和服务。为什么？
答：我们的目标是突破当今AI能力的边界，并使这些能力能够被全社会广泛获取且负担得起。这同时符合我们的客户导向以及我们对社会的责任。
获得现实世界问题和可扩展的工业资源，我们认为这是AI领域取得重大进展所必需的两个关键要素。这正是建立AWS小型实验室的原因；我们让AI科学家能够接触到现实世界的数据、领域知识和问题、计算能力，以及构建可扩展服务的能力，这些服务可以供世界上几乎所有人使用。
问：宣布成立时，您提到小型实验室的研究将专注于AI因果关系和可解释性、公平性、隐私、强化学习和图像处理。您希望该小型实验室能为全球在这些主题上的研究努力做出什么贡献？
答：首先，我想提及的是，由于小型实验室中进行的研究具有好奇心驱动的性质，实际探索的主题由科学家们自己决定。
话虽如此，以当前小型实验室的设置，我确实看到了围绕因果关系、可解释性、公平性和计算机视觉等主题的重点。就在最近，弗莱堡计算机视觉教授托马斯·布罗克斯加入了小型实验室的“学者”名单，四月中旬，之前在萨里大学担任图灵研究员和计算机视觉与机器学习讲师的克里斯·罗素也将加入。
招聘优秀人才进行自主驱动的研究，让他们接触现实世界的问题和数据，并给予适当的资源，构建了一个能够应对和解决困难AI问题的独特环境。
问：因果关系涉及机器理解“为什么”的问题。这是一个多么困难的研究挑战？您希望围绕因果推理探索什么样的问题？
答：因果关系是一个困难但非常有前景的AI研究领域。因果关系——而非相关性——是人类理解的核心，无论是因果发现（即从数据中提取因果模式），还是基于确定的因果结构进行推断，都是解决与AI公平性、AI驱动系统的可解释性或AI设备安全性相关问题的关键。
我们的研究探索从数据中发现因果机制、处理隐藏原因、梳理间接因果影响以及从系统底层因果结构推断其行为原理等问题。例如，在供应链物流中，我们收集大量数据，但由于零件、需求、供应商、物流中心和观察指标的数量众多且变化多端，系统评估很困难。从因果关系的角度分析这些数据，可以让我们理解复杂的因果关系，并找到最佳干预措施以避免交付延迟。
问：在建立公众对正在开发的AI系统的更大信任方面，主要挑战是什么？
答：建立对AI系统的信任意味着确立对这些系统的熟悉度和可预测性。随着AI工具越来越多地渗透到我们的日常生活中，我们需要以公众能够理解的方式提供AI行为的透明度。今天的大多数AI系统并不专注于解释其底层机制，即使它们这样做，这些解释也只针对机器学习专家。
人与人之间的信任难以赢得，却容易失去。AI系统也是如此。要建立对AI的更大信任，从相关性到因果关系的范式转变是关键。这是我们如此专注于因果关系研究的主要原因之一。
问：您的小型实验室正在与马克斯·普朗克智能系统研究所和图宾根大学合作。您能解释一下您正在与这些机构发展的合作模式，以及您希望如何将该模式扩展到其他机构吗？
答：我们在图宾根小型实验室中促进与选定学术伙伴的开放式研究合作。我们背后的哲学是帮助建立一个对学术伙伴、某中心以及整个社会都有利的生态系统。这方面有很多可能的方面：
像“某中心研究奖项”这样的研究基金是我们提供的一个要素，例如我们向马克斯·普朗克智能系统研究所提供该奖项。合作的另一个要素是“某中心学者”，即在小型实验室兼职参与的大学教授。这种模式保护了大学既有的结构，同时让教授们能够接触到某中心的领域和基础设施。
此外，小型实验室成员可以在其感兴趣的领域与外部学术伙伴合作，以达成共同发表成果。此外，在发表研究成果时，我们鼓励将相关软件代码开源，以促进结果的透明度和可重用性。同时，某中心最近推出了工业博士项目，我们从合作大学招收优秀的博士生，并在图宾根研究中心聘用他们。与传统的行业资助研究不同，博士生由某中心员工（包括我们的某中心学者和图宾根小型实验室的高级研究科学家）共同指导。这使我们能够减少学术伙伴的额外监督工作量。此外，我们积极鼓励某中心研究人员进行大学讲座，以支持学术伙伴的教育和教学责任。
研究领域
云计算与系统
标签
人工智能 (AI)
云计算服务 (AWS)
研发 (R&D)
关于作者
特约撰稿人
相关内容
- 衡量软件开发工具和实践的有效性
- 某中心启动6800万美元AI博士生奖学金计划
- 十年数据库创新：某中心Aurora的故事
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）
