智东西
　　作者 | 吴菲凝
　　编辑 | 李水青
　　智东西3月14日消息，据开发人员西蒙·威利森（Simon Willison）在自己的博客中称，他成功在自己的笔记本电脑上运行了Meta的130亿参数模型LLaMA-13B，这意味着大型语言模型已经可以跑在消费级硬件上了。
　　他还称，LLaMA-13B在大多数基准测试上的表现都优于拥有1750亿个参数的大型语言模型GPT-3，LLaMA-65B甚至可与谷歌的Chinchilla-70B和PaLM-540B模型竞争。
　　一、Mac能运行130亿参数大模型，只需8GB空间
　　一名软件开发人员乔治·格尔加诺夫（Georgi Gerganov）发布了一款名为＂llama.cpp＂的工具，该工具可助开发者在MacBook上运行AI大型语言模型LLaMA。
　　LLaMA全称为＂Large Language Model Meta AI＂，即Meta大型语言模型，其参数量从70亿到650亿不等，当参数越大时，模型所占用的空间就越多，运行时所消耗的算力也就越大。llama.cpp的主要目标就是在MacBook上使用4-bit量化运行大型语言模型。4-bit量化是一种减小模型大小的技术，以便模型可以在功能较弱的硬件上运行，它还能减少磁盘上的模型大小：将LLaMA-7B减少到4GB、LLaMA-13B减少到8GB以下。
　　据AI开发者西蒙·威利森（Simon Willison）称，去年8月时发布的文本转图像模型Stable Diffusion开启了对于生成式AI的全新浪潮，ChatGPT的出现则将其推向了超速发展。如今，对于大型语言模型而言，类似于Stable Diffusion的时刻再次发生了。
　　他称自己第一次在自己的电脑上运行了类GPT-3语言模型。
　　阿特姆·安德林科（Artem Andreenko）在4GB RAM的Raspberry Pi 4上运行LLaMA 7B
　　阿尼什·泰特（Anish Thite） 让它在Pixel 6手机上运行
　　威利森称，GPT-3这样的语言模型为ChatGPT等工具提供技术支撑，它比图像生成模型更大，构建和运行成本也更高。
　　大型语言模型中大部分都是由OpenAI等私人组织构建的，并且一直受到严格控制——只能通过他们的API和Web界面访问，不会发布给任何人在他们自己的电脑上运行。即使个人可以获得GPT-3模型，也无法在自己的硬件上运行，因为运行模型一般需要多个英伟达A100级GPU，单个售价超8000美元。
　　而如今，威利森可以在自己的电脑上运行LLaMA-7B模型，并将它升级到13B模型。他之前认为还需要几年时间才能在自己的硬件上运行GPT-3类模型，但如今已经可以做到了。语言模型的成本已经下降到个人电子设备也可用的地步。经过4-bit量化之后，模型被缩小，LLaMA甚至可以在配备M1芯片的MacBook上运行。
　　二、大型语言模型失去保护屏障，须合理使用
　　与此同时，威利森认为在现实生活场景中，人们完全有可能利用语言模型来做一些不好的事情。比如编写垃圾邮件，制造情感骗局，甚至还可能自动生成激进言论。
　　对生成式AI而言，编造一些虚假信息实在太容易了，并且人们也区分出来。在此之前，OpenAI还对人们与这些模型的交互行为进行有选择的防御，但当普通人都能在自己的消费级硬件上运行这些语言模型时，又该怎么办呢？
　　在威利森看来，如果不将大语言模型往积极的方向加以引导的话，人们很容易会在使用过程中陷入到它的陷阱中去，要么认为生成式AI有害，要么认为它浪费了自己的时间。
　　威利森称自己如今每天都在根据自己的目的来选择使用生成式工具。他上周用ChatGPT来教自己学习AppleScript用以编写Mac系统的运行脚本。在ChatGPT的帮助下，他不到一小时就发布了一个新项目。
　　威利森认为当前人们的首要任务是找出最有建设性方法来使用ChatGPT。
　　结语：大型语言模型限制被打破，平替ChatGPT有望实现
　　尽管目前在MacBook上运行LLaMA的步骤依然繁琐复杂，但威尔森已在自己的博客中给出了详尽的步骤说明（https://til.simonwillison.net/llms/llama-7b-m2）。相信在开源社区的不断开发之下，LLaMA会变得更易上手，操作更加便捷。LLaMA在llama.cpp的帮助下，有望成为＂平替版ChatGPT＂，人们通过消费级电子产品也能自如使用大模型。

2022难忘旅行（一）八月初作为旅游人接到了一个新任务当最后一批研学旅行的带队导师助理。作为很少带小孩子团的我来说这次是一个很大的挑战，虽然心里紧张却还是镇定地接受了领导安排的任务。领导决定给我安排这项不小心翻开了他们的相册，收获一张旅行清单拿起背包，手握相机，关于来一场说走就走的旅行这件事儿，是不是已经被搁置很久了！但最近小编在逛小组发现一件有趣的事儿，越来越多的友友们开始翻开自己的相册，晒出自己曾经走过的足迹与城市来泸沽湖旅行，你一定要知道这些事！摩梭人的禁忌陈洪波摄一汪碧蓝如镜的湖泊，让泸沽湖闻名于世界一首首古老嘹亮的民谣，让摩梭文化被大众熟知。去一个地方旅游，不止是欣赏大自然的美好，还要深入当地人的生活，了解独具特色的民广东宏远VS宁波富邦！杜锋冲击三连胜，拒绝爆冷广东宏远取得两连胜面对实力不俗的天津队，广东队几乎全场压制，防守非常出色，只让天津队得到了83分。马尚布鲁克斯无人可挡，命中了7记三分球，狂砍29分14篮板8助攻。广东队最大的收获若有来生，我一定等你慢慢地长大郝有花（图片来自网络）脸颊上滑过一丝湿润如一股暖流，暖暖的那不是别离后的难过是那些无法捡拾的美好，在嘶鸣花开的故事，在流年里又一次发芽在指尖歌唱，在酒里晃荡如眉宇间的褶皱，轻轻一抚梦幻尘缘，电光火石，如水中月，如雾中花人生苦短别经年，离多聚少奈何天。此心此情无长计，今宵月圆人未圆。梦幻尘缘，电光火石，如水中月，如雾中花。和她的相遇就是缘分，我们的这场缘分来之不易。那一天，我到市场街闲逛。看着人来任静丨秋日暖阳秋日暖阳文任静秋日，闲适的午后，小花园内，几株高大的女贞树泛着苍绿的叶片，斜斜地插入云端，连同粉色的住宅楼，将天空衬托得愈加澄碧瓦蓝，梧桐树的叶子落光了，苍劲的枝桠伸向天空，仿佛一距离就是尊重亲人之间，距离是尊重爱人之间，距离是美丽朋友之间，距离是爱护同事之间，距离是友好陌生人之间，距离是礼貌。别小看这些生活里的距离，有多少情感都最终败在距离上。远了生出不满，近了又生出世界因不同而相同人和人之间最难的是沟通，理解。每个人最累的是思维，观念的不同。在这个亿万个不同的个体中，找出我们的共同点，交流交流也美哉。不同点，互相交换，没必要谁强加给谁。可最可悲的就是忠言逆耳如何把一件想做的事做成？很简单，只要你懂得建立自己的成功周期你有没有试过，想做一件什么事，往往很容易半途而废？这不是你的错，这只不过是我们的人性使然，毕竟人都是趋利避害的，既然努力对我们来说是一种伤害，自然就驱使我们躲避。问题是，如果你真的高手都是顺应人性的文晴天小朱图来源于网络，侵删高手都是顺应人性的，反而生活困顿之人反人性晴天小朱我们市面上听到的都是厉害的人，成大事的人都是反人性的人性是什么？刘润的底层逻辑里解释人性只涉及生存和繁5场0分，杜锋不满意了！不让昔日射手进入比赛名单，把他打入冷宫昨晚第七轮比赛，广东队迎来了一个弱旅宁波队，最终不出意料地大胜对手，取得了三连胜，在积分榜也冲至前八。也许是对面是超级鱼腩，一开始广东队在防守端比较松散，让宁波队紧紧咬住比分，并在西甲创下最差表现，仅剩皇马扛大旗文羊城晚报全媒体记者刘毅欧冠小组赛第5轮10月27日凌晨全部结束，首次出现3支西甲球队在欧冠小组赛出局的情况，巴塞罗那马德里竞技塞维利亚只能以小组第三的身份转战欧联杯。这样一来，本直降1420，小米12Pro天玑版值得入手吗？在今年7月份，小米发布了小米12Pro天玑版，这款手机搭载联发科天玑9000的处理器，当时的发售价仅为3999元。如今临近双11，这款手机的价格也迎来了新低，最高直降1420，25现代最新技术在短短7小时内将贫瘠的沙漠沙子变成肥沃的土壤挪威初创公司DesertControl找到了防止沙漠化的有效解决方案，方法是将沙子与液态纳米粘土（LNC）混合，在短短7小时内将其变成肥沃的土壤。根据OddityCentral（英万众瞩目的华为，下一步棋来了，开赴5。5G时代了华为5G的下一个演进方向终于是来了，这项新技术让用户体验是提升的10倍，再次打的老美是措手不及，就在不久前华为的轮值董事长胡厚崑官宣，华为将全面迈向5。5g技术，在5。5g时代华为藏不住了！大降价提上日程，网友买手机能便宜吗？最近，最热门的话题就是双11，给消费者带来了新的关注点，虽然现在套路越来越多，但是双11确实有一些产品会降价，我觉得可以对比三家，找出优惠力度最大的品牌和平台。这内容不是广告也不是江苏内河运输开启纯电动时代船舶产业迎来转型发展新空间全国首艘120标箱纯电动内河集装箱船江远百合号不久前在苏州太仓投用，往返于太仓港和京杭运河苏州工业园区港。作为航运新历史的见证者，船长何广科兴奋地表示，电动船实现零排放零污染，目前倪光南院士称自研芯片应在RISCV上押宝！为什么说这种芯片是中国的重要机会？近日，中国工程院院士倪光南撰文指出中国自研芯片要用好开源模式，聚焦RISCV架构。RISCV架构在国内外发展态势如何？为什么说开源芯片对中国是一次重要的机会？近日，中国工程院院士倪嫁70多岁法国老头，甘愿成为他第四任妻子，巩俐到底在追求什么？2019年，让米歇尔雅尔刚刚拿到体检报告，没走出医院大门，就迫不及待地把报告结果发给了巩俐，并附带了一段解说文字我是七十岁的年龄，五十岁的身体，四十岁的心态，我一定能给你幸福。巩俐澄江化石地入选首批地质遗产地，专家化石保存完整，世界少有1984年6月，中国科学院南京地质古生物研究所助理研究员侯先光来到我国云南澄江帽天山附近，寻找古生物化石标本。他清楚地记得，当年7月1日下午两点多，他发现了第一块保存软躯体的纳罗虫100多名越南游客入境韩国后失联两国政府紧急寻人来源海外网越南外交部发言人黎氏秋姮（越通社）海外网10月27日电据韩国朝鲜日报10月27日援引越通社消息，近日100多名越南游客免签入境韩国后失联，对此越南外交部予以回应。韩国襄阳