Chapel Hill - UNC Health已准备好成为医疗保健领域人工智能的典范。
医疗系统处于尝试新技术和合作伙伴关系以改善健康结果的最前沿。今年5月，他们宣布与Epic Systems合作，成为其电子健康记录(EHR)软件中新的生成式人工智能工具的早期采用者。该组织还在研究负责任开发的人工智能框架。
WRAL TechWire采访了北卡罗来纳大学健康中心高级副总裁兼首席信息官Brent Lamm和首席分析官Rachini Moosavi，讨论了他们在人工智能方面的历史和未来。
有限公司内容经过长度和清晰度编辑。
WRAL TechWire:你正在研究一个“负责任的人工智能框架”。你能谈谈这是什么阶段，是否有计划将其公之于众吗?
Brent Lamm:大约从2016年开始，我们就有了自己的数据科学团队。我们在生产中有十几个或更多的解决方案，跨越各种用例，通过普遍认可的人工智能定义使用人工智能。其中大多数是机器学习或狭义的人工智能，而不是明显席卷世界的生成式人工智能。但Rachini和她的团队实际上已经在负责任的人工智能领域工作了很长一段时间。我认为这个框架的特点是，它不是什么新东西。我们有一个单一大小的东西，现在我的团队正在扩展它，使其更加全面，考虑到生成人工智能的本质。
Rachini Moosavi:我们的目标确实是帮助提升所有医疗保健水平，而合作是其中的一个重要部分。我们有一种我称之为超越草稿的东西，它是功能性的。我们正在测试它，我们实际上开始使用它，并使用我们的框架附带的调查问卷和一些供应商。所以它是功能性的。我们还没有把第一份问卷带回我们的人工智能和自动化工作组。但那即将到来。
WRAL TW:你能谈谈你们的“人工智能和自动化”工作组及其成员吗?
RM:在启动我们的人工智能和自动化咨询小组之前，我们主要是通过一个更以技术为主导的小组来自主管理我们的人工智能开发。参与者是IT合作者，包括我们的首席医疗信息官和首席护理信息官，以及我们IT大家庭中的其他一些临床医生。
在开发负责任的人工智能(RAI)框架的过程中，为了提出公平、问责、可信度和透明度的四盒模型，我们聚集了整个系统的不同利益相关者，就应该进入其中的内容进行合作，并确定“我们对自己和我们的技术合作伙伴负责什么?“这组利益相关者是特定于项目的，专注于开发我们的RAI框架。
然后我们决定是时候启动人工智能和自动化咨询小组了。我们真的需要考虑作为我们卫生系统一部分的其他利益相关者，他们需要如何权衡，以及他们可以带来什么专业知识。除了有一系列不同的临床学科，我们还有一些行政学科。所以，看看护理通道，操作和其他一些空间。我们还请来了一位伦理学家。我们有法律，我们有隐私，我们还有其他需要在谈判桌上占有一席之地的学科。
WRAL TW:工作组正在审查哪些新的人工智能开发?什么是用例?
BL:我们内部ChatGPT的工作原型已经启动并运行了大约六个星期了。我们非常明确地让法律和合规团队参与解决方案的早期原型设计，因为我们希望他们在向公司其他团队开放之前，能够接受良好的教育并沉浸其中。所以这个关键基团非常重要。他们将在确保我们解决所有问题方面发挥巨大作用。
WRAL TW:你能多谈谈这个内部聊天系统吗?只对北卡罗来纳大学的医护人员开放吗?
BL:是的，内服。在与微软的合作中，他们在我们的Azure环境中为我们提供了OpenAI软件，因此它保持在北卡罗来纳大学健康中心的安全环境中。假设一位医生想要写一份事先授权信，并让生成式人工智能帮助他们起草这封信。他们不能使用Chat GPT因为他们必须在信中加入受保护的健康信息，我们显然不希望这样。所以这个内部聊天GPT允许我们的队友在外部使用聊天GPT的相同功能，但他们实际上可以用敏感数据提示它，比如受保护的健康信息。
WRAL TW:内部UNC健康聊天GPT的时间表是什么?
RM:所以我们正在缓慢推出。我们正在通过团队战略性地推出它，我们需要向我们提供关于工具功能的输入。我们还将按用例进行讨论。对于所有我们认为是自助服务的东西，有人可以利用这个内部聊天gpt工具，我们正在接触这些利益相关者，并要求他们成为试点小组的一部分，以测试功能。这样我们就可以从他们那里收集反馈，同时他们也能从使用这项技术中获得一些好处。
BL:这些反馈将进入AAA(人工智能和自动化咨询)小组，该小组将根据负责任的人工智能框架进行研究。
WRAL TW:使用生成式人工智能的能力是否改变了你正在收集或分析的任何数据?
BL:在过去的14年里，我一直在医疗保健IT和信息学领域工作。在那段时间里，以及在那之前的许多年里，有一股巨大的推动力促使我们的医生、护士和其他临床医生在电子健康记录中捕捉离散的数据，而不是在临床记录中写散文。
我认为我们现在的顿悟之一是如何利用生成式人工智能，我们可以改善这种需求。在临床记录和非结构化散文中有很多知识和机会，我们现在可能有更好的机会使用生成人工智能而不是大量离散数据。所以你的问题的答案是，我不知道我们收集的东西有什么不同。但是我们开始重新审视用例，在这些用例中，我们可以回到过去，以我们以前从未想过的方式，潜在地使用传统的临床自然语言笔记。
RM:是的，让我以Brent所说的为基础。这里最适合的话题是“健康的社会决定因素”。健康的社会决定因素是日常生活中可能影响一个人的健康和福祉的事物。在预约期间与你的护理人员交谈的过程中，你可能会提到“嘿，我一个人住”，或者“我有交通问题”，或者“我经常挨饿”，其他类似的有影响力的陈述。这些都是关于我们病人的社会人口统计的关键信息传统上我们必须问一些具体的问题来捕捉离散的领域以便能够利用它们。
想象一下，有了生成式人工智能，我可能在几个月或几年里见过的所有不同的提供者，如果能从我的临床总结中提取出来，以一种可以描绘出拉奇尼·穆萨维是谁以及我健康的社会决定因素是什么的方式。这样我的护理人员现在就有机会考虑基于这些信息的护理计划这些信息以一种清晰的方式总结给他们，不管它是被告知给哪个护理人员的。这是转型。
WRAL TW:关于负责任的AI框架，你还得到了什么反馈?
RM:我们正在与Gartner合作，我们正在等待他们对我们负责任的人工智能框架的反馈。就在最近几周，我们会见了开发微软人工智能框架的微软专家，以及Nuance(微软云医疗解决方案的人工智能合作伙伴)，他们也发布了很多信息。因此，持续的对话和合作使我们能够微调和调整我们的模型，看看是否有差距，我们可能错过了什么，我们需要补充什么。或者在与供应商甚至我们自己的合作中，当我们评估自己的产品时，我们是否应该考虑不同的事情。
WRAL TW:你能谈谈使用这些人工智能工具的培训吗?这是你正在做的事情，作为将这些工具交到你的临床医生手中的一部分——明确使用它们的最佳方法?
BL:北卡罗来纳大学教堂山分校去年宣布成立一所新学院，这是很长一段时间以来的第一所新学院，新的数据科学与社会学院。我们与领导层有着长期的合作，这有助于建立和启动这所学校。我们现在正在与他们合作的一件事就是为我们的用户提供关于生成人工智能的培训。他们很兴奋，因为我们可以把医疗保健的镜头带到他们正在做的事情中，这是他们考虑的很大一部分，他们的毕业生可以做什么，在医疗保健领域工作。
我们现在还没有具体的计划。我们正在与他们进行早期对话，讨论我们可以为北卡罗来纳大学健康中心的队友提供的第一门课程或在线自定进度课程。
RM:我们总是从两个完全不同的方面进行训练。有基于应用程序的培训。我们推出的任何新技术，我们都必须提供如何使用这项技术的一步一步的指导。但也有关于这项技术的更广泛的教育。围绕这项技术建立一定程度的舒适度。我认为，对于人工智能来说，有一些恐惧，也有一些兴奋。我们想要确保为每一个使用这项技术的群体提供一些背景，使他们能够轻松地使用这项技术，并帮助他们获得最佳使用和最佳体验。
WRAL TW:你能分享一下你打算如何评估你的AI吗?你的kpi(关键绩效指标)是什么?当你展望未来时，你的目标是什么?
RM:这是我们希望与我们的人工智能和自动化治理团队共同创造的东西，以确保他们能够参与进来。我们要确保这是多学科小组的代表，他们帮助我们形成了这些概念。但通过与微软和其他组织的合作，我们也在收集他们如何将kpi构建到他们负责任的人工智能框架中的信息，以确保我们衡量的是正确的事情。
此外，每当出现一种新模式时，无论是Epic已经交付的，还是我们购买的，还是我们自己开发的，我们总是会衡量它的有效性。我们进行统计分析，以真正能够提供一定程度的信任，并了解模型与它试图共享的信息的匹配程度。自2016年以来，我们一直在这样做，这将继续进入我们负责任的人工智能框架。
我们也会测量模型随时间的漂移，因为数据会改变，提供模型的信息也会改变。您必须持续监控您所构建的模型的影响。当然，所有这些都被放入负责任的人工智能框架中，以确保模型保持有效。
- - - - - -
非常感谢Brent和Rachini与我们交谈并分享他们的工作!