中央研究院词库小组（CKIP）最新释出可以商用的繁中大型语言模型（large language model）CKIP-Llama-2-7b，能作为学术使用或是商业使用，可应用於文案生成、文学创作、问答系统、客服系统、语言翻译、文字编修、华语教学等。

中央研究院词库小组以商用开源模型 Llama-2-7b 以及 Atom-7b 为基础，再补强繁体中文的处理能力，并对 405 个可商用的任务档案同步进行训练优化，参数量达 70 亿。团队一共开发出两个模型一个是繁体中文预训练後的 CKIP-Llama-2-7b，一个是以前者为基础，继续多任务微调训练後的 CKIP-Llama-2-7b-chat。

该模型已经放上 Github 和 Huggingface 提供大众下载，也可以使用自己的训练资料集进行训练，快速构建出一个可以满足自身任务需求的模型，模型仅需一张 12G 记忆体容量的 GPU 即可布属。

（Source：测试网页）

其中为了达到可商用目的，多任务微调资料也避免使用 alpaca 及 vicuna 等经由 OpenAI 产品生成的资料集，而取自於纯人工产生的 COIG-PC 资料集和 dolly 资料集，中央研究院词库小组表示，COIG-PC资料集当中有为每一个任务档案注明是否可以商用，团队从中挑选出 405 个可商用的任务档案，再从其中随机抽取出我们的任务微调资料集；dolly-15k 资料集整体均为为可商用资料集。

团队也展示实测范例，好比问它「在台湾什麽是 22K？」、「台湾地方特色小吃」、「帮我规划日月潭二日游」等，都可以获得相对应的答案，也能请它以七言绝句吟诗、写推销文案、写志愿或是一封想入职中研院的求职信等。…

某天想看电视却找不到遥控器，於是请 Google 助理帮忙开电视，可能会口误喊成「嘿，Siri，帮我开电视」，Siri 回答「我不懂你在说什麽」，最後还是只能用「人工」智慧开电视。

智慧家居市场不断扩大，碰过这情形的消费者应该不少，Statista 报告预测，全球智慧家居市场规模从 2022 年 1,261 亿美元增长到 2026 年 2,078 亿美元，并以 13.30% 年复合增长率增长。

市面智慧家居品牌增加，不同品牌无法互通，各家「智慧」碰撞，消费者只能无奈以「人工」介入。有通用协议的设备不少，可目前通用协定是硬体出厂时就内建了，所以消费者无法靠升级系统更新协定，要一统家中智慧家电只能重新买有通用协议的产品。

用个别协定捆绑消费者不是新鲜事，各厂商都在努力打造自家生态系，但无疑会造成多生态消费者的麻烦。好消息是终於有厂商准备解决这痛点了，IFA 科技展时三星和 LG 宣布，2024 年前使用者无需升级硬体，即可享受三星和 LG 产品互连，也就是说使用者只要是最新版系统，就能控制不同品牌智慧家电。

为了达成目标，2021 年三星创办组织 HCA（Home Connectivity Alliance），创造新智慧家电互联协定。协议采云端技术，让不同品牌产品能互连，好处是产品无需有硬体协定，简单 OTA 就能互连，HCA 成立前出厂设备也如此，是 HCA 协定与其他互连协定最大差异。

HCA 提供成本低且更方简的智慧家电互连方案，也是 HCA 不加入其他互连协定原因之一，因其他方式成本过高，使普及率降低，不是所有消费者都愿意为了互连功能买新家电。但 HCA 协定还在起步阶段，三星和 …

发表开源商用大模型 Llama 2 後，Meta 日前又发表程式设计版 Code Llama，弥补程式码任务表现不佳缺点，拉近与闭源 GPT 模型的差距，测试结果直追 GPT-4。

Code Llama发表前两天，OpenAI开放微调GPT-3.5功能，允许开发者和企业据自己需求客制模型。身为开源和闭源综合实力最强的两大模型，不免有些你追我赶意味，甚至出现一丝火药味。

程式设计为大语言模型最重要应用，几乎所有产品和服务都离不开，每次最佳化和改版都有重要意义。此次Code Llama是在Llama 2基础上，以特定程式资料库训练，支援C++、Java、Python、PHP、Typescript（Javascript）、C#和Bash等许多主流语言，且依然开源可商用。

Code Llama对程式设计专家和初学者都非常好用，无论专业程式设计语言还是自然语言描述程式设计需求，Code Llama都能理解，并产生程式码或相关解释，大大降低开发门槛和效率。

多版本模型涵盖更多特定场景

Meta部落格文说明Code Llama分为7B、13B和34B三个参数版，可满足不同服务和延迟要求。每版模型都使用500B tokens与相关资料训练。

最小7B参数模型可用单GPU运行，回应速度快，适用低延迟任务。但比起更大模型，程式码产生或理解当然不够精准。最大34B模型提供最佳编码辅助，复杂程式设计表现最好，但需要最多计算资源，延迟也可能更高。中等规模13B参数模型在性能和延迟间找到平衡点。7B和13B模型经过中间填充（fill-in-the-middle，FIM）训练，理解如何在现成程式码内加入新程式码，可补全直接自动程式码等，无需另外设定或训练。

Code Llama支援一次性理解并记住最多10万token上下文，强大的文本处理能力对处理大型程式库或长篇文章都非常有用。当开发者需处理大量程式码时，可将整个程式码片段一次性喂给Code Llama。为了满足更多特定需求，Meta还针对Python和自然语言指令微调两个Code Llama变体，分别称为Code Llama-Python和Code Llama-Instruct。

Python是最受欢迎程式设计语言，多领域广泛应用，特别数据科学、机器学习等。专门针对Python的模型能更准确产生和理解Python程式码，提高模型处理相关任务时的性能。

Code Llama-Instruct更注重理解自然语言指令，非常适合不很熟悉程式设计但又有这方面需求的使用者，更容易理解自然语言指令，更适合非专业使用者，除了产生程式码，也能胜任其他相关自然语言处理任务，如程式码注释或产生文件。

透过更多垂直子版，Code Llama模型涵盖更广范例和族群，满足不同场景特定需求，更容易取得竞争优势。Meta说明，Code Llama更专注程式码任务，不适合当成聊天或写文章等日常语言的基础模型，只是为了帮助人们设计程式或处理程式码问题而设计。

性能和安全性双双领先

Code Llama的性能，多程式码基准测试都达开源模型最先进程度。Code Llama所有模型在MultiPL-E都优於其他公开模型。34B参数版的HumanEval得分为53.7%，MBPP得分56.2%，与ChatGPT（GPT 3.5）相当，优於其他开放解决方案。…