自动化流程生成方法和自动化流程管理系统与流程

    技术2025-01-24  53


    本发明涉及人工智能,尤其涉及一种自动化流程生成方法和自动化流程管理系统。


    背景技术:

    1、机器人自动化流程(robotic process automation,rpa)是通过脚本、程序等实现对人工操作的模拟,从而实现将工作人员从重复工作中解放出来,提高工作效率,降低人工成本。其自动化流程根据操作软件的不同可以分为系统操作自动化、网络自动化、浏览器自动化,界面自动化、office自动化、邮件自动化、数据库能力自动化、人工智能(artificialintelligence,ai)能力自动化、消息自动化等多种类型,不同的rpa可以对不同种类提供不同程度的支持。

    2、然而,现有的自动化流程对于操作元素较为机械,比如软件版本更新导致按键位置变化、网页元素名称变化或结构变化、使用的接口规范变更或地质变化等情况,都会导致自动化脚本失效,需要重新更新脚本内容的问题,从而增加了开发成本,降低了工作效率。


    技术实现思路

    1、针对现有技术存在的问题,本发明提供一种自动化流程生成方法,包括:

    2、获取中文提示词和自动化流程执行页面图像;

    3、将所述中文提示词和所述自动化流程执行页面图像输入代码生成模型进行处理;所述代码生成模型包括文本编码器、图片编码器和聚合解码器;通过所述文本编码器对所述中文提示词进行处理,得到文本编码;通过所述图片编码器对所述自动化流程执行页面图像进行处理,得到图片编码;通过所述聚合解码器对所述文本编码和所述图片编码进行处理,得到自动化流程脚本代码。

    4、根据本发明提供的一种自动化流程生成方法,通过如下方式训练所述代码生成模型:

    5、获取原始数据;所述原始数据包括原始中文提示词、原始操作视频和原始脚本代码;

    6、按照提示词范式对所述原始中文提示词进行处理,得到样本中文提示词;

    7、在所述原始操作视频中截取自动化步骤执行截图,并对所述自动化步骤执行截图进行元素标注;

    8、对所述原始脚本代码进行分解,得到所述自动化步骤执行截图对应的脚本代码切片;

    9、基于机器人自动化任务中的中文提示词和脚本代码,确定微调数据集;

    10、基于所述样本中文提示词、所述自动化步骤执行截图、所述脚本代码切片和所述微调数据集,对待训练代码生成模型进行训练,得到所述代码生成模型。

    11、根据本发明提供的一种自动化流程生成方法,在所述基于所述样本中文提示词、所述自动化步骤执行截图、所述脚本代码切片和所述微调数据集,对待训练代码生成模型进行训练,得到所述代码生成模型之前,还包括:

    12、采用中文代码生成模型的预训练模型作为文本编码器;

    13、采用图像到文本的预训练模型作为图片编码器;

    14、采用生成式预训练解码器模型作为聚合解码器;

    15、基于所述文本编码器、所述图片编码器和所述聚合解码器,构建待训练代码生成模型。

    16、根据本发明提供的一种自动化流程生成方法,在所述采用中文代码生成模型的预训练模型作为文本编码器之前,还包括:

    17、获取英文提示词;

    18、将所述英文提示词输入翻译模型,得到所述翻译模型输出的中文翻译结果;

    19、将所述中文翻译结果输入中文代码生成模型,得到所述中文代码生成模型输出的代码;

    20、将所述英文提示词输入英文代码生成模型的预训练模型,得到所述英文代码生成模型的预训练模型输出的代码;

    21、将所述中文代码生成模型输出的代码与所述英文代码生成模型输出的代码将进行比对,采用优化器基于比对结果对所述中文代码生成模型进行训练,得到所述中文代码生成模型的预训练模型。

    22、根据本发明提供的一种自动化流程生成方法,所述基于所述样本中文提示词、所述自动化步骤执行截图、所述脚本代码切片和所述微调数据集,对待训练代码生成模型进行训练,得到所述代码生成模型,包括:

    23、对文本编码器、图片编码器进行参数冻结,开放聚合编码器进行迭代训练;

    24、基于历史迭代训练轮次的样本中文提示词和对应的脚本代码切片,生成当前迭代训练轮次的提示词;

    25、将所述当前迭代训练轮次的提示词和执行页面截图输入待训练代码生成模型,得到所述待训练代码生成模型输出的当前脚本代码;

    26、在机器人自动化流程平台执行所述当前脚本代码后,对自动化执行结果进行截图,得到当前自动化步骤执行截图;

    27、确定所述当前自动化步骤执行截图与所述自动化步骤执行截图之间的相似度作为损失函数进行反向传播,以对所述待训练代码生成模型进行迭代训练。

    28、根据本发明提供的一种自动化流程生成方法,在所述对所述待训练代码生成模型进行迭代训练之后,还包括:

    29、在迭代训练轮次达到预设轮次时,基于所述微调数据集对所述待训练代码生成模型进行微调,开放所述文本编码器、所述图片编码器和所述聚合编码器的参数进行多轮次训练,得到所述代码生成模型。

    30、本发明还提供一种自动化流程生成装置,包括:

    31、获取模块,用于获取中文提示词和自动化流程执行页面图像;

    32、处理模块,用于将所述中文提示词和所述自动化流程执行页面图像输入代码生成模型进行处理;所述代码生成模型包括文本编码器、图片编码器和聚合解码器;通过所述文本编码器对所述中文提示词进行处理,得到文本编码;通过所述图片编码器对所述自动化流程执行页面图像进行处理,得到图片编码;通过所述聚合解码器对所述文本编码和所述图片编码进行处理,得到自动化流程脚本代码。

    33、本发明还提供一种自动化流程管理系统,包括:

    34、业务终端,用于显示提示词编辑界面;接收在所述提示词编辑界面输入的提示词,将所述提示词发送至服务器;

    35、服务器,用于将所述提示词输入代码生成模型,得到所述代码生成模型输出的自动化脚本代码并在虚拟机上执行所述自动化脚本代码;

    36、所述业务终端,还用于显示所述自动化脚本代码和对应的自动化脚本代码执行结果;响应部署操作,将所述自动化脚本代码部署至机器人自动化流程平台;

    37、机器人自动化流程平台,用于运行所述自动化脚本代码,执行自动化流程。

    38、本发明还提供一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述任一项所述的自动化流程生成方法的步骤。

    39、本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上述任一项所述的自动化流程生成方法的步骤。

    40、本发明实施例在获取中文提示词和自动化流程执行页面图像后,可以通过代码生成模型中的文本编码器对中文提示词进行处理得到文本编码,通过代码生成模型中的图片编码器对自动化流程执行页面图像进行处理得到图片编码,通过代码生成模型中的聚合解码器对文本编码和图片编码进行处理,得到可执行的自动化流程脚本代码文件,从而无需人工撰写代码即可自动生成脚本代码,使用零代码完成机器人自动化流程脚本编写,减少开发成本,提高工作效率。


    技术特征:

    1.一种自动化流程生成方法,其特征在于,包括:

    2.根据权利要求1所述的方法,其特征在于,通过如下方式训练所述代码生成模型:

    3.根据权利要求2所述的方法,其特征在于,在所述基于所述样本中文提示词、所述自动化步骤执行截图、所述脚本代码切片和所述微调数据集,对待训练代码生成模型进行训练,得到所述代码生成模型之前,还包括:

    4.根据权利要求3所述的方法,其特征在于,在所述采用中文代码生成模型的预训练模型作为文本编码器之前,还包括:

    5.根据权利要求3所述的方法,其特征在于,所述基于所述样本中文提示词、所述自动化步骤执行截图、所述脚本代码切片和所述微调数据集,对待训练代码生成模型进行训练,得到所述代码生成模型,包括:

    6.根据权利要求5所述的方法,其特征在于,在所述对所述待训练代码生成模型进行迭代训练之后,还包括:

    7.一种自动化流程生成装置,其特征在于,包括:

    8.一种自动化流程管理系统,其特征在于,包括:

    9.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至6任一项所述的自动化流程生成方法。

    10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述的自动化流程生成方法。


    技术总结
    本发明提供一种自动化流程生成方法和自动化流程管理系统,所述方法包括:获取中文提示词和自动化流程执行页面图像;将所述中文提示词和所述自动化流程执行页面图像输入代码生成模型进行处理;所述代码生成模型包括文本编码器、图片编码器和聚合解码器;通过所述文本编码器对所述中文提示词进行处理,得到文本编码;通过所述图片编码器对所述自动化流程执行页面图像进行处理,得到图片编码;通过所述聚合解码器对所述文本编码和所述图片编码进行处理,得到自动化流程脚本代码。本发明实施例无需人工撰写代码即可自动生成脚本代码,使用零代码完成机器人自动化流程脚本编写,减少开发成本,提高工作效率。

    技术研发人员:仲申文,谢长弘,李伟
    受保护的技术使用者:中国移动通信集团浙江有限公司
    技术研发日:
    技术公布日:2024/10/24
    转载请注明原文地址:https://symbian.8miu.com/read-25411.html

    最新回复(0)