微软开源TypeChat库,让llm大语言模型返回指定格式化的数据
近几个月来,围绕最新一轮大型语言模型的讨论掀起了热潮。很多人通过对话的方式与这些大模型交流,这也是最直接的交流方式。
然而,这种方式面临一个问题:如何将这些模型最好地集成到现有的应用程序界面中,仍然存在很大的问题。
换句话说,我们如何利用人工智能将用户的请求转化为应用程序可以处理的内容?我们又如何确保我们的应用程序是安全的,让开发者和用户都能够信赖?
为了解决这些问题,微软开源了一个名为TypeChat的实验性库,它可以很容易地获得类型良好的结构化数据,建立起了自然语言与应用程序模式(application schema)和API之间的桥梁。
目前,TypeChat已经与OpenAI API和Azure OpenAI服务进行了一些非常基本的集成。
关于为何构建TypeChat库,微软表示,当前人们可以与大型语言模型进行对话交流,然而,需要解析语言,但是人类输入的语言和大型语言模型理解的语言在结构上有很大的差别,典型的软件很难从原始文本中重建语言。
TypeChat可以帮助大型语言模型以JSON的形式响应,并且响应结果非常合理。例如,当用户要求将这句话“我可以要一份蓝莓松饼和一杯特级拿铁咖啡吗?”转换成JSON格式时,TypeChat的响应结果如下:
微软表示,他们一直在提示符中使用TypeScript类型,可以说,给定一个提示和TypeScript类型,聊天机器人就会使用这些类型构造一个新的提示。
接下来是将TypeChat连接到大型语言模型并确定句子是否为否定、中性还是肯定的...
点击查看剩余70%
网友评论