韩国 SK 集团支援的半导体新创 Sapeon 最近发布面向资料中心的最新 AI 晶片，希望打造出辉达替代者。

根据 Sapeon 最新声明，Sapeon X330 晶片的运算性能是前一代产品 X220 的四倍，能效为两倍多，预期 2024 年上半年开始量产前对主要客户进行测试。

SK Telecom 於 2020 年首次开发出 Sapeon X220，是韩国首款用於资料中心的非记忆体半导体，可执行高速、低功耗提供 AI 服务所需的大规模运算。两年後，SK Telecom 在加州将 Sapeon 分拆为独立实体，加速 AI 晶片商业化。

但事实上，Sapeon 是韩国 SK 集团的 3 个技术部门，包含 SK 海力士、SK 电讯和 …

英特尔成功从辉达手中获取 AI 大单！韩媒报导，南韩入口网站巨擘 Naver 旗下 Naver Place 地图平台 AI 工作，已从辉达 GPU 改为英特尔 CPU。

南韩经济日报报导，Naver 曾使用辉达 GPU 运行 AI 平台，以便根据使用者查询区分虚假房源与真实房源，不过最近已换成英特尔 CPU 为基础的伺服器，并测试了一个月。

主要原因是供应链问题和辉达 GPU 价格高昂，加上交货周期长达一年，迫使 Naver 转投英特尔怀抱。报导引述产业人士的话，辉达晶片 AI 加速器价格从早期 4,000 万韩圜飙至 8,000 万韩圜，且交货周期长达 52 周。

消息人士表示，转用英特尔前，Naver 已测试产品一个月，将继续使用英特尔 Sapphire Rapids CPU 升级定位和搜寻产品的运算基础设施。…

中央研究院词库小组（CKIP）最新释出可以商用的繁中大型语言模型（large language model）CKIP-Llama-2-7b，能作为学术使用或是商业使用，可应用於文案生成、文学创作、问答系统、客服系统、语言翻译、文字编修、华语教学等。

中央研究院词库小组以商用开源模型 Llama-2-7b 以及 Atom-7b 为基础，再补强繁体中文的处理能力，并对 405 个可商用的任务档案同步进行训练优化，参数量达 70 亿。团队一共开发出两个模型一个是繁体中文预训练後的 CKIP-Llama-2-7b，一个是以前者为基础，继续多任务微调训练後的 CKIP-Llama-2-7b-chat。

该模型已经放上 Github 和 Huggingface 提供大众下载，也可以使用自己的训练资料集进行训练，快速构建出一个可以满足自身任务需求的模型，模型仅需一张 12G 记忆体容量的 GPU 即可布属。

（Source：测试网页）

其中为了达到可商用目的，多任务微调资料也避免使用 alpaca 及 vicuna 等经由 OpenAI 产品生成的资料集，而取自於纯人工产生的 COIG-PC 资料集和 dolly 资料集，中央研究院词库小组表示，COIG-PC资料集当中有为每一个任务档案注明是否可以商用，团队从中挑选出 405 个可商用的任务档案，再从其中随机抽取出我们的任务微调资料集；dolly-15k 资料集整体均为为可商用资料集。

团队也展示实测范例，好比问它「在台湾什麽是 22K？」、「台湾地方特色小吃」、「帮我规划日月潭二日游」等，都可以获得相对应的答案，也能请它以七言绝句吟诗、写推销文案、写志愿或是一封想入职中研院的求职信等。…

某天想看电视却找不到遥控器，於是请 Google 助理帮忙开电视，可能会口误喊成「嘿，Siri，帮我开电视」，Siri 回答「我不懂你在说什麽」，最後还是只能用「人工」智慧开电视。

智慧家居市场不断扩大，碰过这情形的消费者应该不少，Statista 报告预测，全球智慧家居市场规模从 2022 年 1,261 亿美元增长到 2026 年 2,078 亿美元，并以 13.30% 年复合增长率增长。

市面智慧家居品牌增加，不同品牌无法互通，各家「智慧」碰撞，消费者只能无奈以「人工」介入。有通用协议的设备不少，可目前通用协定是硬体出厂时就内建了，所以消费者无法靠升级系统更新协定，要一统家中智慧家电只能重新买有通用协议的产品。

用个别协定捆绑消费者不是新鲜事，各厂商都在努力打造自家生态系，但无疑会造成多生态消费者的麻烦。好消息是终於有厂商准备解决这痛点了，IFA 科技展时三星和 LG 宣布，2024 年前使用者无需升级硬体，即可享受三星和 LG 产品互连，也就是说使用者只要是最新版系统，就能控制不同品牌智慧家电。

为了达成目标，2021 年三星创办组织 HCA（Home Connectivity Alliance），创造新智慧家电互联协定。协议采云端技术，让不同品牌产品能互连，好处是产品无需有硬体协定，简单 OTA 就能互连，HCA 成立前出厂设备也如此，是 HCA 协定与其他互连协定最大差异。

HCA 提供成本低且更方简的智慧家电互连方案，也是 HCA 不加入其他互连协定原因之一，因其他方式成本过高，使普及率降低，不是所有消费者都愿意为了互连功能买新家电。但 HCA 协定还在起步阶段，三星和 …

发表开源商用大模型 Llama 2 後，Meta 日前又发表程式设计版 Code Llama，弥补程式码任务表现不佳缺点，拉近与闭源 GPT 模型的差距，测试结果直追 GPT-4。

Code Llama发表前两天，OpenAI开放微调GPT-3.5功能，允许开发者和企业据自己需求客制模型。身为开源和闭源综合实力最强的两大模型，不免有些你追我赶意味，甚至出现一丝火药味。

程式设计为大语言模型最重要应用，几乎所有产品和服务都离不开，每次最佳化和改版都有重要意义。此次Code Llama是在Llama 2基础上，以特定程式资料库训练，支援C++、Java、Python、PHP、Typescript（Javascript）、C#和Bash等许多主流语言，且依然开源可商用。

Code Llama对程式设计专家和初学者都非常好用，无论专业程式设计语言还是自然语言描述程式设计需求，Code Llama都能理解，并产生程式码或相关解释，大大降低开发门槛和效率。

多版本模型涵盖更多特定场景

Meta部落格文说明Code Llama分为7B、13B和34B三个参数版，可满足不同服务和延迟要求。每版模型都使用500B tokens与相关资料训练。

最小7B参数模型可用单GPU运行，回应速度快，适用低延迟任务。但比起更大模型，程式码产生或理解当然不够精准。最大34B模型提供最佳编码辅助，复杂程式设计表现最好，但需要最多计算资源，延迟也可能更高。中等规模13B参数模型在性能和延迟间找到平衡点。7B和13B模型经过中间填充（fill-in-the-middle，FIM）训练，理解如何在现成程式码内加入新程式码，可补全直接自动程式码等，无需另外设定或训练。

Code Llama支援一次性理解并记住最多10万token上下文，强大的文本处理能力对处理大型程式库或长篇文章都非常有用。当开发者需处理大量程式码时，可将整个程式码片段一次性喂给Code Llama。为了满足更多特定需求，Meta还针对Python和自然语言指令微调两个Code Llama变体，分别称为Code Llama-Python和Code Llama-Instruct。

Python是最受欢迎程式设计语言，多领域广泛应用，特别数据科学、机器学习等。专门针对Python的模型能更准确产生和理解Python程式码，提高模型处理相关任务时的性能。

Code Llama-Instruct更注重理解自然语言指令，非常适合不很熟悉程式设计但又有这方面需求的使用者，更容易理解自然语言指令，更适合非专业使用者，除了产生程式码，也能胜任其他相关自然语言处理任务，如程式码注释或产生文件。

透过更多垂直子版，Code Llama模型涵盖更广范例和族群，满足不同场景特定需求，更容易取得竞争优势。Meta说明，Code Llama更专注程式码任务，不适合当成聊天或写文章等日常语言的基础模型，只是为了帮助人们设计程式或处理程式码问题而设计。

性能和安全性双双领先

Code Llama的性能，多程式码基准测试都达开源模型最先进程度。Code Llama所有模型在MultiPL-E都优於其他公开模型。34B参数版的HumanEval得分为53.7%，MBPP得分56.2%，与ChatGPT（GPT 3.5）相当，优於其他开放解决方案。…