“天工开悟”以Transformer框架为基础，基于Decoder-only解码器技术设计。模型使用4.188亿中文高质量语料进行训练，参数量达130亿，为提升模型的正确性和精准性，训练使用的语料均经过二次数据过滤和清洗。模型共设置20446个关键词，对违反社会主义核心价值观、泄露知识产权和商业秘密，以及各类歧视性内容进行了专项拦截。模型基于人工标注的超22万条高质量问答对知识库进行微调训练和推理生成。在微调训练过程中，“天工开悟”通过增加回复中关键Token的权重，确保重要信息的输出。在推理过程中，模型依托与问题相关的知识进行回复生成，保证了输出结果与知识的高度一致。在数据安全方面，“天工开悟”大语言模型采用完全自主可控的技术架构，支持在不同环境下的部署和应用，既可以在公有云环境下部署，也支持内部私有化部署，有效保障用户的数据安全。