OpenAI的非营利机构揭示了其解决"人类最难题"的计划。

OpenAI基金会宣布了一系列全面的投资和研究目标，从构建AI在实际应用中的行为保护措施，到推动共享数据生态系统建设和资助疾病研究。

这一既定路线图可以为其他组织在模型开发和安全方面提供蓝图指导。

OpenAI基金会董事会主席布雷特·泰勒在今天的博客文章中写道："我们仍处于AI可能性的起点。机会和责任并存，确保这些技术为人们带来真正的进步。"

AI韧性建设成为重点关注领域

OpenAI在去年10月完成重组，OpenAI基金会现在持有营利性OpenAI业务的股权，并承诺投资250亿美元用于AI研究，其中10亿美元将在未来一年内投入。

基金会专注于"两个维度"：AI在人们工作、学习和获得医疗服务方面的巨大潜在效益；以及随着AI变得越来越强大而已经浮现的挑战。

非营利组织将后者称为"AI韧性"。

Info-Tech Research Group首席研究总监布莱恩·杰克逊解释说："OpenAI的意思是，AI是否会继续达到人类为其设定的目标，还是会以某种方式失败？是否会出现导致我们达不到目标的错误？或者更糟糕的是，是否会出现安全考虑，导致我们走向错误的方向，在本意帮助的时候却造成伤害？"

在促进AI韧性方面，基金会表示将针对三个关注"已经显现"的领域：生物安全、模型安全以及对儿童和青少年的影响。

在生物安全方面，该非营利组织将致力于改善对潜在生物威胁的检测、预防和缓解，包括"自然发生的和AI促成的"威胁。它还将支持独立测试和评估，制定"新的更强"的行业标准，并资助研究以帮助早期检测AI模型安全问题或完全避免这些问题。

为了解决AI对儿童和青少年的影响，基金会表示将投资数据驱动的研究和评估，识别并构建保护措施以促进"有益的互动"。

聚焦生命科学和疾病治疗

基金会首先瞄准的"人类最难题"之一是生命科学和疾病治疗。

泰勒写道："AI在加速科学和医学进步、拯救和改善生命方面具有巨大潜力。研究人员已经在使用AI更好地理解疾病，探索预防和治疗疾病的新方法，并更快地将想法从实验室转移到患者身上。"

三个初始重点领域包括：

健康公共数据：强调分享科学数据的重要性，基金会将帮助合作伙伴创建和构建"开放的高质量数据集"，并可能开放以前封闭的数据集，以支持医学研究项目。

AI治疗阿尔茨海默病：泰勒指出，阿尔茨海默病是"医学中最棘手的问题之一"，但AI跨复杂数据进行推理的能力可以帮助研究人员获得新见解。基金会将与研究机构合作，绘制疾病路径图，检测用于临床试验和护理的生物标记物，并加速个性化治疗。工作可能包括重新利用现有FDA批准的分子。

加速高死亡率和高负担疾病的进展：AI可以帮助降低为研究资金不足的疾病开发或重新利用疗法的成本和风险。基金会将汇聚AI研究人员和疾病专家，确定用AI工具支持科学家的方法。

杰克逊说："我喜欢OpenAI这份声明的是，他们给了我们一些他们认为能够产生影响的非常具体的领域。"

他指出，这些具体的医疗项目"高度复杂且专业化"；有来自数百万患者的大量数据，但推理、解析这些数据并从中获取关于不同治疗选择见解的能力有限。

杰克逊指出："他们看到了大量数据。他们看到了明显的局限性。这是一个可以从企业角度应用的很好的教训：在哪里你有大量数据但没有足够的带宽进行推理？"

为企业AI战略提供框架指导

杰克逊表示，对于企业来说有几个重要启示，特别是OpenAI为其他在AI项目优先级方面存在困难的组织树立了榜样。它们应该专注于能够产生最大影响的领域。

他指出："许多企业仍在说，'我们在哪里获得AI投资回报，以及我们如何组织以确保专注于利用AI获得最佳可能价值？'"

IT领导者也可以将此视为安全AI实践的框架。杰克逊指出了基金会如何寻求构建"数据文化"并分享领域专业知识，以获得"你能掌握的最可分享和最有价值的数据"。

他问道："所有这些不同研究努力展示其数据以便AI从中学习的最佳方式是什么？"

杰克逊指出，这是企业可以学习的重要发展，特别是在仍然持有"不要分享你的数据"思维的传统环境中。企业仍然是孤立的或对其数据保护性的，通常甚至在内部部门之间也不会整体地看待数据。

然而，他说："当我们将不同的领域专业知识结合在一起时，我们创造的价值大于其各部分的总和。"基金会的思维是，"我们正在创建一个安全的生态系统，在那里我们可以分享数据，我们都能从中受益。"

Q&A

Q1：OpenAI基金会的AI韧性是什么概念？

A：AI韧性是指AI是否能继续达到人类为其设定的目标，而不会以某种方式失败。它关注是否会出现导致达不到目标的错误，或者更严重的安全问题，导致在本意帮助时却造成伤害。OpenAI基金会将重点关注生物安全、模型安全以及对儿童青少年的影响三个领域。

Q2：OpenAI基金会在医疗健康领域有哪些具体计划？

A：基金会将重点关注三个领域：建立健康公共数据平台，创建开放的高质量医学数据集；利用AI治疗阿尔茨海默病，通过跨复杂数据推理帮助研究人员获得新见解；加速高死亡率和高负担疾病的治疗进展，降低开发或重新利用疗法的成本和风险。

Q3：企业如何从OpenAI基金会的路线图中获得启示？

A：企业可以学习OpenAI专注于能产生最大影响领域的做法，明确AI投资回报和价值重点。同时可以借鉴其构建数据文化和共享机制的框架，打破数据孤岛，创建安全的数据共享生态系统，实现跨部门协作，产生大于各部分总和的价值。