泄露的谷歌人工智能备忘录到底暗示了什么? 天天新消息
经济学人的文章说,开源人工智能发展迅速,带来了好和坏两方面影响。
(相关资料图)
技术人员通过编写软件改变世界,但这帮人也乐意用长篇备忘录来秀文字,其中最著名的几篇,可以代表计算机时代的一些转折。
想想比尔·盖茨1995年的 "互联网浪潮 "备忘录,一把就让微软的方向转向了网络;还有贝佐斯2002年的 "API授权 "备忘录,开放了亚马逊的数字基础设施,为现代云服务铺平了道路。
现在,科技圈又开始讨论另一份,这一次是从谷歌内部泄露出来的,标题是 "我们没有护城河"。备忘录作者未知,但是其中详细介绍了人工智能(AI)领域正在取得的惊人进展,并对这个快速发展的行业中一些公认的设想提出了质疑。
2022年底,随着会像人一样聊天的ChatGPT推出,AI突然进入公众的视野,OpenAI制造了这个由 "大型语言模型"(LLM)驱动的聊天机器人,而OpenAI又与微软密切相关。
ChatGPT一火,谷歌和其他科技公司都慌了,赶快发布他们自己的智能聊天机器人,各家公司生怕自己的产品不会聊天。这类系统可以生成文本并进行看上去很真实的对话,主要是基于互联网上提取的数万亿词汇进行的训练。
训练一个LLM需要数月时间,至少数千万美元。钱如流水,人们开始担心人工智能将被少数财大气粗的公司所垄断。
但谷歌的备忘录说,这种假设是错误的,指出开源社区的研究人员使用免费在线资源,现在正在取得与最大专有模型相媲美的结果。
事实证明,LLM可以使用一种叫做低秩适应("Low-rank Adaptation,LoRa)的技术进行 "微调",使得现有的LLM能够为一项特定的任务进行优化,这要比从头开始训练一个LLM要快得多,也便宜得多。
Low-rank Adaptation"(LORA)是一种机器学习中用于数据适应的技术。它通过构建一个低秩(low-rank)结构,对原始数据进行变换和适应。这种低秩结构能有效地捕捉和利用数据中的底层结构,从而提高模型的预测性能。
开源AI在3月爆发,当时由Facebook母公司Meta创建的模型LLaMA 在网上泄露。虽然比最大的LLMS要小(最小的版本有70亿个参数,而谷歌的PaLM有5400亿个参数),但这个模型很快被微调,在某些任务上产生了与ChatGPT原始版本相当的结果。
谷歌备忘录作者写道:"随着开源研究人员在LLaMA基础上相互合作,随之而来的会是大量创新涌现"。
"这可能会对人工智能行业的未来产生地震般的影响,"谷歌备忘录说,"培训和实验的门槛,已经从一个主要研究机构的总产出,降至一个人、一个晚上和一台强大的笔记本电脑。一个LLM现在可以在几个小时内以100美元的价格进行微调。"
凭借快速移动、协作和低成本的模式,备忘录中说,"开源有一些我们无法复制的显著优势"。因此,备忘录的标题是:这可能意味着面对开源竞争对手,谷歌没有 "护城河"。
对谷歌来说,好消息是OpenAI也是如此。
并非所有人都同意这一点。互联网确实是在开源软件上运行,但人们也在使用付费的专有软件,从Adobe Photoshop到微软的Windows,都是如此。
此外,对AI系统进行基准测试,众所周知的难。然而,即使备忘录的内容只有部分是正确的。强大的LLMS可以在笔记本电脑上运行,任何想要的人现在都可以微调自己的AI。
这有积极和消极的影响。
从正面看,将使少数公司垄断控制人工智能的可能性大大降低,使获得人工智能的成本大大降低,加速整个领域创新,研究人员可以更容易分析人工智能系统的行为(他们对专有模型的访问是有限的),提高透明度和安全性。
但是,更容易获得人工智能,也意味着动机不良者将能够为邪恶目的对系统进行微调,如产生虚假信息。这会使人工智能更难监管,因为精灵已经出了瓶子。
谷歌及同类领先公司,是否真的失去了在人工智能领域的护城河,很快我们就可以看清楚。但与之前的备忘录一样,这个未知作者似乎写出了电脑时代的另一个转折点。
加入阿尔法工场投资者交流社群 | 添加微信:dlfxs2
标签:
- 甘肃再续“艾黎情”:探职业教育德技并修
- 【城市守望者】致敬抗“疫”一线的“拆弹专家”
- 浙江绍兴越城区核酸检测结果公布 除1例阳性外其余均为阴性
- 内地首例奥密克戎变异株感染者身体状况如何?来自哪里?专家解读→
- 对变异病毒已有准备!关于中国新冠药物,钟南山发声→
- 江苏睢宁小网格大担当 织就乡村振兴“幸福网”
- 改造老旧小区 共享幸福生活
- 天津静海:群众在哪里,文明实践就延伸到哪里
- 齐齐哈尔:初步判断疫情感染来源为接触新冠病毒污染环境和物品
- 重庆大竹林派出所副所长因对群众态度简单粗暴被停职
- 黑龙江讷河病例感染源初步判断为新冠病毒污染的环境和物品
- 致敬2021
- 浙江瑞安民警捐献造血干细胞:14年前的心愿终将如愿
- “考研房”涨价离谱 律师:借机宰客有违市场伦理
- 广州白云机场:14天内有东莞旅居史的旅客须凭48小时核酸阴性证明乘机
- 浙江绍兴本轮疫情已报告确诊病例145例 无症状感染者1例
- 福建龙岩一男子和前妻斗气 扛着126斤硬币到法院“还钱”
- 重庆这座立交酷似“悟空” 走红 设计师揭秘(图)
- 青海警方破获特大电诈案 涉案流水高达1.7亿
- 云南新增境外输入确诊病例3例
- 黑龙江讷河市5名核酸阳性人员流调溯源:接触被新冠病毒污染的环境和物品
- 男子爱上女主播 假扮女主播闺蜜教其他男粉丝刷单
- 广西三市警方联手破获毒品案 全链条摧毁跨境贩毒团伙
- 广东东莞发现2例无症状感染者,部分镇今起全员筛查
- 从百二秦关到闻道凯旋 一个殉职医生最后的朋友圈
- 浙江发补充说明:三地铁路出行政策随风险等级同步调整
- 内蒙古新增本土确诊病例5例 均在呼伦贝尔满洲里市
- 陕西新增本土确诊病例1例 系隔离酒店工作人员
- 31省份新增新冠肺炎确诊病例76例 其中本土51例
- 浙江新增新冠肺炎确诊病例45例 其中本土44例
- 技能就是财富 技工也是人才
- 黑龙江新增本土确诊病例1例、本土无症状感染者4例
- 冷空气“调休”!我国大部陆续迎回暖 中东部雨雪稀少
- 华北黄淮等地大气扩散条件转差 冷空气将影响中东部
- 别误读了野猪或将不再是“三有”动物
- 您的ETC已到期?当心这个诈骗短信!
- 对回家的“宝贝”少一些关注,也是一种帮助
- 升温!北京今日阳光在线 最高气温将升至8℃
- 那年今日 | 一张漫画涨知识之12月14日
- 40岁男子一觉醒来突然听不见了 原因是……
- 本年度星空压轴大赏上演 双子座流星雨观赏地图来了
- 广东东莞大朗镇报告2例新冠肺炎无症状感染者
- 商丘4885份被盗出生证去哪了?10年“悬案”引关注
- 浙江海宁警方通报国家公祭日女子穿和服逛街
- 厨艺不精调料凑?懒人调料:年轻人的“下厨神器”
- “您的ETC已到期?”警方提醒:当心这个诈骗短信
- “网红”局长的热度 自述:走红后我就没有周末了
- 寻回被拐10年的儿子后又送走 儿子:害我没家了
- 小城里的三张面孔和警号301137
- 倡导“就地过年”,需因地制宜科学防疫
- 别用“入乡随俗”为星巴克找借口
- 北京地铁14号线年底全线贯通运营
- 天津市从入境人员中检出奥密克戎变异株
- “外滩活地图”黄俊:一个不想出圈的段子手交警
- 寻找一双儿女的25年
- 无锡市场监管部门责成星巴克涉事门店停业整改
- 海岛警事:为了一座岛和2900平方公里的海
- 北京民警宏福苑抗疫26天:“今夜我和雪花一起出发”
- 星巴克的“金标准”缘何败给了“潜规则”
- 患者被低价药“惊呆”的场面应该更多些
- 影视剧“超前点评”不止是“低级错误”
- “南昌鹦鹉案”下发不起诉决定书 网店上架费氏牡丹鹦鹉被拒
- 河南商丘4885份出生医学证明被盗始末追踪
- 绍兴市病例62-109活动轨迹公布
- 12月7日以来,杭州累计报告新冠肺炎确诊病例19例
- 浙江绍兴新增确诊病例37例 上虞区占36例
- 河南高院对张成功案作出死刑判决
- 四川一滑雪场停电游客被困索道 官方回应
- 浙江绍兴越城区新增1例新冠肺炎确诊病例 当地对防控区域划分进行调整
- 中国内地首次检出新冠病毒奥密克戎变异株
- 知网除了涉及著作权纠纷,是否涉嫌违反《反垄断法》?
- 浙江绍兴越城区新增1例新冠肺炎确诊病例
- 四川眉山千箱柑橘送往呼和浩特市抗疫一线
- 两名青年男女探险三亚落笔洞遗址被困沼泽 消防成功救援
- 中国地理学大会在福州发布《中国地理学界碳中和科技行动福州宣言》
- 天津从入境人员中检出新冠病毒奥密克戎变异株
- 江苏规定学科类校外培训机构一次性收费不超3个月
- 上海数字化转型提升教育质量 智慧教育助力“双减”
- 湖北荆门警方“团圆行动”助失散31年家庭团聚
- 成都大熊猫繁育研究基地大、小熊猫陆续搬入扩建区“新家”
- 隔离不隔爱 封控小区的内外“双向奔赴”
- 重庆摧毁为境外赌博网站提供资金支付结算特大犯罪团伙
- 追忆消防烈士张晓杰:逆火前行留忠魂
- 北京永定河以西地区高质量发展五年行动计划发布
- 打造北方“高颜值”大都市 沈阳再建2000个口袋公园
- 重庆抓获并对3516名跨境赌博犯罪嫌疑人采取强制措施
- 青海茫崖采油工人原创音乐作品获全国陶笛音乐作曲大赛二等奖
- 青海湖国家公园:推进流域生态保护 明确生态旅游发展空间
- 青海2020年水土保持成绩单:治理面积超2000平方公里
- 浙江金华依法查处多起涉疫违法案件 警方提醒民众不信谣
- “上头电子烟”竟涉毒 湖南首例涉新型毒品合成大麻素案告破
- 无视疫情防控要求 浙江舟山普陀一麻将房店主被拘9日
- 首批295个“司机之家”服务点上线地图应用
- “一场必须跑赢的战役” 沈阳民警争分夺秒跑赢骗子
- 湖北一自然保护区发现一批野生动物
- 扰乱核酸检测点秩序 男子被行政拘留8日
- 安徽“铁拳”查办4万余民生案件 案值1.27亿
- 贵阳警方推出利民户政新举措“三最”解民忧
- 内蒙古满洲里新增3例本土确诊病例 治愈出院32例
- 安徽大别山:林长制让绿水青山变幸福山
广告
广告
- 黑龙江讷河新增1例确诊4例无症状 病例详情公布
- 浙江宁波余姚奉化宁海三地开展核酸检测 结果均为阴性
- 浙江湖州南浔三处棋牌室经营者被行拘
- 那年今日 | 一张漫画涨知识之12月13日
- 在宁波乘火车跨省出行须持48小时内核酸阴性证明
- 浙江温州一地发现核酸弱阳性?复采复检结果均为阴性
- 浙江三门发现一名密接者:二次核酸检测结果均为阴性
- 贱卖的发电机 新买的制茶机——安徽水电供区改革两周年回访见闻
- 浙江杭州新增1例新冠肺炎确诊病例 为集中隔离人员
- 2022年研考在即,学硕缩招,专硕时代真的来了?
- 探访杭州核酸检测点:排队高峰多在夜间 医院24小时运转
- 浙江发挥零售药店“哨点”作用 织就疫情防控监测网
- 哈尔滨市本轮疫情首批1名确诊患者出院
- 宁波镇海第三轮全员核酸检测574181人 结果均为阴性
- 陕西新增本土确诊病例1例、境外输入无症状感染者2例
- 齐齐哈尔讷河一地调整为中风险地区
- 浙江新增新冠肺炎确诊病例75例 其中本土74例
- 内蒙古新增本土确诊病例5例 均在呼伦贝尔满洲里市
- 黑龙江无新增确诊病例 新增本土核酸检测初筛阳性人员5例
- 冷空气影响今起暂歇 雾和霾明后天“见缝插针”