资源分类
》 资源 》算法》Bert2Transformer

Bert2Transformer

2020-03-10 | |  68 |   0 |   0

这里提示一下

这个代码还有少部分可以优化的地方，最近有点忙，我本来打算后期修改的， 最近看大家有不少疑问，大家如果想快速的运行起bert2transformer代码， 可以去本人的这个项目BERT-T2T下对这个项目稍作修改就可以马上变成bert2transformer 这个项目BERT-T2T也是我从这个项目修改的得到的， 相比，这个项目BERT-T2T代码更简洁， 同时改正了这个项目无法训练超过千万级别数据的问题和对这个问题 进行优化。

Bert2Transformer

这是一个seq2seq模型

思想

编码器是bert,解码器是transformer的解码器，可用于自然语言处理中文本生成领域的任务 采用的还是微调的方式，bert是已经训练好

提示一下

我的src和tgt全部都是中文，同一种语言，

我的src和tgt是不同的两种语言，需要自己改下


上一篇：emv-bertlv-tools

下一篇：rasa-bert-finetune

用户评价
全部评价

热门资源

  • seetafaceJNI

    项目介绍 基于中科院seetaface2进行封装的JAVA...

  • spark-corenlp

    This package wraps Stanford CoreNLP annotators ...

  • Keras-ResNeXt

    Keras ResNeXt Implementation of ResNeXt models...

  • capsnet-with-caps...

    CapsNet with capsule-wise convolution Project ...

  • inferno-boilerplate

    This is a very basic boilerplate example for pe...