哈尔滨工业大学IFLYTEK联合实验室发布的中文ELECTRA系列预训练模型欢迎新成员加入。我们基于大规模法律文本在中国法律领域培训了ELECTRA系列模型，并在法律领域的自然语言处理任务方面取得了显着的性能提升。欢迎读者下载并尝试相关模型。项目地址：http://electra.hfl-rc.com中国法律领域的ELECTRA。我们在20G版（原始）中文ELECTRA的基础上增加了2,000万份高质量的裁判员文件和数据，以进行二次培训。从大规模通用数据中学到的语义信息也使该模型更适合法律文本。这次发布了以下三种型号：legal-ELECTRA-large，中文：24层，隐藏1024，16头，324Mparameterslegal-ELECTRA-base，中文：12层，隐藏768，12头，102Mparameterslegal -ELECTRA小型中文：12层，隐藏256位，4头，12M参数的快速加载哈尔滨工业大学IFLYTEK联合实验室发布的所有中文预训练语言模型都可以快速加载，并可以通过halloweenfacetransformers库进行访问，请登录我们的共享页面以获取更多信息。 https://huggingface.co/HFL模型密钥如下：hfl / chinese-legal-electra-large-discriminatorhfl / chinese-legal-electra-large-generatorhfl / chinese-legal-electra-base-discriminatorhfl / chinese-legal -Electra-base-generatorhfl /中文-法律电子-小判别器hfl / Chinese-legal-电子电子-小发电机效果评估我们对犯罪预测和元素提取任务进行了基线测试。费用预测任务使用CAIL2018数据，元素提取任务是内部实际应用。可以看出，这次发布的法律领域的ELECTRA模型与常规ELECTRA模型相比，在性能上有了显着提高。表1犯罪预测任务表2元素提取任务其他相关资源TextBrewer知识提炼工具http://textbrewer.hfl-rc.com中文BERT，RoBERTa，RBT系列模型http://bert.hfl-rc.com中文XLNet系列型号http://xlnet.hfl-rc.com中文MacBERT型号http://macbert.hfl-rc.com