乐于分享
赠人玫瑰之手,经久犹有余香

AI算力 HBM、Chiplet和CPO技术

admin阅读(435)

大语言模型涉及对高性能(如 、TPU)、大规模高质量数据集的需求以及软件的提高等多方面要求。

1.HBM 技术:高吞吐高带宽, 带动需求激增

HBM(High Bandwidth Memory)意为高带宽存储器,是一种硬件存储介质,是高性能 GPU 的核心组件。HBM 具有高吞吐高带宽的特性,受到界和学术界的关注。它单颗粒的带宽可以达到 256 GB/s,远超过 DDR4 和 GDDR6。DDR4 是 和硬件处理单元的常用外挂存储设备,但是它的吞吐能力不足以满足当今计算需求,特别是在 AI 计算、和数字货币挖矿等大数据处理访存需求极高的领域。GDDR6 也比不上 HBM,它单颗粒的带宽只有 64 GB/s,是HBM 的 1/4。而 DDR4 3200 需要至少 8 颗粒才能提供 25.6 GB/s 的带宽,是 HBM 的 1/10。

HBM 使用多根数据线实现高带宽,完美解决传统存储效率低的问题。HBM 的核心原理和普通的 DDR、GDDR 完全一样,但是 HBM 使用多根数据线实现了高带宽。HBM/HBM2 使用 1024 根数据线传输数据,作为对比,GDDR 是 32 根,DDR 是 64 根。HBM 需要使用额外的硅联通层,通过晶片堆叠技术与处理器连接。这么多的连接线保持高传输频率会带来高功耗。因此 HBM 的数据传输频率相对很低,HBM2 也只有 2 Gbps,作为对比,GDDR6 是 16 Gbps,DDR4 3200 是3.2 Gbps。这些特点导致了 HBM 技术高成本,容量不可扩,高延迟等缺点。

5302957a-dbb6-11ed-bfe3-dac502259ad0.png

530b0e58-dbb6-11ed-bfe3-dac502259ad0.png

HBM 可以被广泛的应用到汽车高带宽存储器,GPU 显存,部分 CPU 的内存芯片,边缘 AI加速卡,Chiplets 等硬件中。在高端 GPU 芯片产品中,比如 NVDIA 面向数据中心的 A100 等加速卡中就使用了 HBM;部分 CPU 的内存芯片,如目前富岳中的 A64FX 等 HPC 芯片中也有应用到。车辆在快速移动时,摄像头、会捕获大量的数据,为了更快速的处理数据,HBM是最合适的选择。Chiplets 在设计过程中没有降低对内存的需求,随着异构计算(尤其是小芯片)的发展,芯片会加速对高带宽内存的需求,无论是 HBM、GDDR6 还是 LPDDR6。

HBM 缓解带宽瓶颈,是 AI 时代不可或缺的关键技术。AI 处理器架构的探讨从学术界开始,当时的模型简单,算力低,后来模型加深,算力需求增加,带宽瓶颈出现,也就是 IO 问题。这个问题可以通过增大片内缓存、优化调度模型等方法解决。但是随着 AI 大模型和云端 AI处理的发展,计算单元剧增,IO 问题更严重了。要解决这个问题需要付出很高的代价(比如增加 DDR 接口通道数量、片内缓存容量、多芯片互联),这便是 HBM 出现的意义。HBM 用晶堆叠技术和硅联通层把处理器和存储器连接起来,把 AI/完全放到片上,提高集成度,降低功耗,不受芯片引脚数量的限制。HBM 在一定程度上解决了 IO 瓶颈。未来的数据量、计算量会越来越大,超过现有的 DDR/GDDR 带宽瓶颈,HBM 可能会是唯一的解决方案。

巨头领跑,各大存储公司都已在 HBM 领域参与角逐。SK 海力士、、美光等存储巨头在HBM 领域展开了升级竞赛,国内佰维存储等公司持续关注 HBM 领域。SK 海力士早在 2021 年10 月就开发出全球首款 HBM3,2022 年 6 月量产了 HBM3 芯片,并将供货,持续巩固其市场领先地位。三星也在积极跟进,在 2022 年技术发布会上发布的内存技术发展路线图中,HBM3 技术已经量产。

六上二单元习作 《点鼻子的乐趣》

Bob阅读(865)

乐趣在于每一件事之中,回想起鼻子那些乐趣,就如看电影一般,一张张多彩的画面似乎如一束光在眼前渐渐浮现……

那是一节语文课,语文陈老师不知又想了什么,只见她快步上讲台,随手从盒子里拿起一支粉笔,然后在全班同学一脸懵的目光中,她的大臂一摆,粉笔就在黑板上画出一个极圆的圆,像用圆规画的般。咳咳,这不是重点。在全班同学的注视下,老师画了一张脸,脸上有滑稽的五官﹣﹣等下,这鼻子难道长腿跑了不成?

同学们正疑惑之际,老师道:”我们来玩点鼻子吧!谁上去画个’鼻子’?”话音刚落,”哗啦”回拿上粉笔一声,同学都举起了手。老师一笑,请了一位同学。那同学站好位置,戴上眼罩,被”助手”浩宸同学扶上讲台。教室一下子就像开水般沸腾了,同学们一个个都大喊:”上!上!不不不,太上了,下!”可同学还没喊完,讲台上的那位早就下了笔,画了个嘴旁的小圆痣”。同学们哈哈大笑,我也笑了,想:还游戏应该叫’点别痣’!

可惜可惜,接下来的游戏中,其他上去的同学不是急于下笔,就被错误指令带跑了。画出来的有大门牙,有眼泪,还有不在”脸”上的,像滴水滴。

我正想着方法,就老师叫了上去。我拿上粉笔,看准鼻子,站好,然后戴上眼罩。第一步,我屏住呼吸尽量走直线。第二步,我听着大家的建议,没想到有两种:”左!左一点!”还有一种:”右,快转右!”我无语,突然我灵光一现:我的额头与”鼻子”应该差不多高。我手一比别,就是这儿!第三步;画!画得大一点会好一点,因为这样容错率高,但不能太大。我画了个圆后拿下眼罩,算是画对了!我内心都乐了起来:”太棒了”同学们也欢呼了起来……

随着”光”的消逝我也再一次体会到了,那点”鼻子”的乐趣……

六上一单元习作 《我是那根神奇的马鞭》

Bob阅读(493)

我是一根神奇的马鞭:我能看世界,我能听声音,我能说话最重要的是,我和哥哥﹣﹣他是一支画笔,能创造事物.﹣是一位老神仙的神器。从哥哥被送给了叫马良的小伙子之后,我就有把马加快速度的法术。

天上太无聊,我向老仙请了地上一天的假,就钻下了云。眼前是翠色欲流的大草原,像一幅无边的画卷。我身形一转,就来到一名正在骑马的小男孩手上。他身下的马太慢了,我就对小男孩说:”快!用我抽它!”小男孩﹣愣,看向我:”你会说话?”我和他交流之后,知道他不敢把马骑得太快,①任意一四②叫飞,他因为他看过人摔下马后的情景……他知道我的能力后,眼一下就暗淡了许多,可不是,那么好的宝贝不敢用,如我,可多沮丧。于是我暗下决心一定要让马飞克服恐惧!

我让马飞说:两倍!”然后用我抽下马。他有些犹豫了,略微思考,他照做了。抽过之后,马的眼中发光,一声嘶鸣,它小跑了起来。我只觉得马飞把我握得更紧了,然后他说:”有点快……”我兴奋了:”没事,先适应,差不多时说+四信。”他问:”应该不会摔吧?”我无奈:”瞧瞧我是谁,神鞭呀!马飞似乎放松了点。”行,我试试。四倍!”马忽然前蹄腾空一跃,吓得马飞闭上了眼,大喊:”不要,停!”马的动作一顿,目光暗淡了下来,乖乖停下。马飞看了看马,又甩了甩我,小声道对不起,我……”我打断他的话:”没事快骑吧。”第二次,他用了五倍速,但因为他不敢上小丘,于是他下了马。第三次用了六倍速,由于马被惊吓到了,他下马了。紧接着,四次,五次……一次次的尝试,使得他变得越发自信。③:握着我时间飞快,太阳西落,马飞经过我的鼓励下,他越”战越勇,速度更是到了9倍。我内心欢喜,说:”好徒弟’不错嘛!”马飞骑马一边说:”那可不!”

一天过去了,我回到天上,天色将晓,眼下草原上,一个小小的身影骑着马,大喊”十倍,冲啊!”朝阳下这个身影握着普通的马鞭。而我那根神奇的马鞭﹣﹣正静静享受这份成就……

六年级上习作例文《中秋·月饼》

Bob阅读(910)

中秋·月饼

“古时祭月神,今朝过中秋。待到八月十五日,望月必食此佳品。”你猜出来了吗,这”佳品”其实是月饼。正巧,小区里有个活动,正是﹣﹣做月饼﹣﹣而且是做冰粉壳红豆沙馅!

我跟爸爸骑上电瓶车直奔活动场,可是还是来晚了。人可真多桌子旁边挤满了人,我三步并作两步,挤入人群,爸爸在后面看着。一位阿姨正在揉面,旁边一位小学生正制作着:他取下一团揉好的面,揉成圆球,再放在桌上,按成扁圆形,然后向里面放入豆沙馅,包上,再揉成一个圆球,放入一个定形容器,把’球”塞进去一手堵住容器口,一手按紧对面的把手,差不多时,把堵口的手松开,另一尺手一压,一个月饼就””嗖”一下飞了出来,十分好看,像一个白白的娃娃,正面有一个被压出来的花纹,十分可爱。最后拿一个盒子把月饼放进去;包装好,一个月饼就到手了。

五分钟内看完”教程”的我跃跃欲试。万事俱备,只差面团,只好又等了一会儿,终于拿到这面团了。我觉得一开始很简单:拿,揉,压,放、包……等等,包?我左手心托着”半成品”,右手再”半成品上这一捏那一压,这一挖那一真,细细改,才包住馅。可谁知,它破了一个口子,后来接二连三在口子旁边又多出来许多大口子。我心一紧:”坏了!”说话间,我赶紧放下半成品,拿起一团面一压一补,勉强抢救回了”患者”。最后一步,把大而”臃肿”的圆球塞入容器里一压,取出一看﹣﹣呀!又露馅”了……

爸爸”修”好月饼后告诉我:”馅可不能太多。”我恍然大悟。再来!外壳要稍微厚一些,馅少一点,不行,再少一点……我心中默念着,手也没闲着。随着月饼被发射出去,我心里一阵喜悦,这喜悦似乎和红豆沙一样甜。我和

爸爸带着三个月饼回了家。爸爸把月饼蒸熟后,我一看,呆了:月饼壳变成了半透明色,像水晶。透过水晶里透着豆沙的红。我尝了一块:”好甜!”爸妈看着我笑了。此时,我心中比红豆沙更甜,比月饼更香……

海上升明月,天涯共此时。望着八月十五的月,吃着月饼,我,陶醉于其中……

小学生作文范例 《大熊猫的自述》

Bob阅读(690)

你好啊!我的名字叫大熊猫。很多人都认识我,喜欢我。人们一看到我,都会脱口而出:”看啊,国宝!”这使我非常自豪。

为什么我这么受大家欢迎呢?哈哈,请大家洗耳恭听啦。我是国家一级保护动物。我的最爱是竹子所以老家就在四川和云南海泼高的竹林里。我四肢黑、耳朵黑、背部还有一条黑线……最最重要的是,我还自带一双黑眼圈”,其它毛色都是白色的呢。科学家们发现我们大熊猫每天吃了睡,睡了吃,小日子过得挺不错﹣﹣喂喂,我们大熊猫可没那么懒,他树可是我们的强项。我爬起树来,”日”赠蹭蹭”就爬到树上可不是三下五除二的事吗?邻居猴于见了,都要让我们三分。

别看我那么肥,我刚刚生下来可轻啦。我出生时火约只有150克左古,相当于三个鸡蛋左右。妈妈手把手的教我爬树,掰竹子等等本领,我才逐渐成长,后来才变成这个模样。我还是”和平使者”。在2006年的北京奥运会上,可是有我的身影在。在201的”北京冬奥会上,我还被当成一个手上有红心的”冰墩墩”,很受欢迎。美国还花大量资金向中国借了我们的明星-“团团”和”圆圆”呢!”

可是我的一生有一个很大的遗憾﹣﹣就是不能照一张彩色照片

五年级上习作例文《我的心爱之物》

Bob阅读(767)

我的心爱之物

    大家都有自己的心爱之物,有的同学喜欢自己的书桌,有的同学喜欢自己的玩具,有的同学喜欢自己的书架。但是你们一定想不到我最心爱的宝物,是一个书包。

这个书包是父母送给我的。它整体颜色是深蓝色的,有一大一小两个空间,大的空间装十几本书都可以;小的空间,也可以装下铅笔盒和许多小文具。书包两旁的侧带可供我装水杯。背包上还有许多”夜空中最亮的星”,就像美丽的夜空这块”幕布”上的一小块。

记得二年级的时候,外婆骑着自行车接我放学。那时乌云密布,看着就要下雨了,外婆和我急忙穿上准备好的雨衣,加快速度往家的方向骑去。可是,雨比我们先到了。调皮的豆大的雨滴在雨衣上蹦来跳去的,好不快活!这时,我想到了我的小书包,不好,书包没有雨衣!我想:书包能不完全湿吗?作业怎么办?能快点到家吗……雨越下越大,我也越发不安起来。终于,我们到家了。我脱下雨衣,取出书包,书包已经湿了一大片,我打开书包可里面的作业滴水不沾。我想:书包可真防水呀!我一定要仔细给他擦一擦。

而我长大了,它也无时无刻陪在我身旁:上课时,它面对黑板,仿佛他也能听懂老师的话;我写作业时,它”坐”在椅子上,看着我写旅游时,他在我肩上,陪我看山看水看风景……

四年啊,就如一转眼间,而书包也是陪伴我成长的记忆。虽然它是一个书包,但是它永远也不能忘记在我的心里。

六年级上习作例文《书桌运食记》

admin阅读(790)

书桌运食记

我是一只特别的蚂蚁:我拥有普通蚂蚁没有的视觉与听觉,还是蚂蚁运食师的031号排排长。根据我排侦查班的可靠信息,在被人类称为”书桌”的高地上有一块”糖,甜分极高。我下令:全军运输!

这次行动可不是偷,毕竟”民以食为天”,蚂蚁也是。我率领20只蚂蚁借脚下天生的小吸盘没一会就爬上了书桌。眼前是一个扁扁的长方形物体,我爬上去一看,一块硬硬的,黑黑的东西。我想:这应该是”手机”。可突然手机亮了起来,它发出的电话铃声震耳欲聋,手机振动使我被振下手机,还好,手机并不高。听着隐隐的脚步声,我知道大事不妙,我传令:”全体隐蔽!快!”其实不用下令,蚂蚁们感到桌子有点振动后,一溜烟就躲到水杯后面。我则冒险爬上水杯侦察。我有些近视,只看见一个巨大的黑影伸出一个巨大的五根长”棒”夹走了”手机”,然后就很快地消失了。」我召回蚂蚁们,沿着侦紧蚁留下的甜味,继续向前走。 前面有许多小丘,比如”书本”、”盒子”之类的,用人类的一个字来形容,就是﹣﹣乱!这也太乱了!害得有些蚁兵差点掉队。

沿着气味,我们来到了一张更高的桌子上。上面十分整齐,桌面上除了一本厚厚的六年级语文书之外,就什么都没有了﹣﹣哦不,还有那块糖,蚂蚁们一拥而上,争先恐后地去品尝。但这时,又一队蚂蚁来了,领队的是032排排长,两队蚂蚁争着向自己原来走的路拉,032排排长看看我,我又看看他,最终,我先发话了:”本是同根生,我们为何相争呢?”另队排长无奈地说:”也是,他们争强好胜,过了那么长时间,我这瓜是吃不下去了。”一番商议后,我下令走032排的路线。于是50多只蚂蚁齐心抬着糖向同一方向走,还别说,速度挺快。

我的决定是对的,这条路短。不一会儿,我们就回了蚁穴。啊哈!我要去参加庆功宴了,下回见!

《音乐过滤器》第二期 《萱草花》

admin阅读(783)

第一期的音乐专辑主题是《妈妈》,2021年2月贾玲导演的《你好,李焕英》上映,有一点感触,所以就想做一个关于母亲的音乐主题。

《音乐过滤器》第二期 《萱草花》

《萱草花》Intro

Intro.彭飞-我爸.mp3

《萱草花》A面

A1.张小斐-萱草花(倾诉版).mp3
A2.大张伟-世上最美好的祈祷.mp3
A3.Beyond-真的爱你.mp3
A4.毛不易-一荤一素.mp3
A5.朴树-那些花儿(吉他版).mp3
A6.李志-妈妈.mp3
A7.莫文蔚-当你老了.mp3
A8.王铮亮-时间都去哪儿了.mp3

《萱草花》B面

B1.周杰伦-听妈妈的话.mp3
B2.蜡笔小心-MOM.mp3
B3.房东的猫-给妈妈.mp3
B4.王梓钰-默爱.mp3
B5.陈奕楠-时光里的她.mp3
B6.李荣浩-爸爸妈妈.mp3
B7.汪峰-母亲.mp3
B8.李志-听妈妈讲那过去的事情.mp3

《萱草花》Outro

Outro.Heintje-Mama.mp3

国内如何注册ChatGPT 注册ChatGPT详细教程

admin阅读(537)

最近ChatGPT非常火,大家都想测试一下ChatGPT的AI智能化程度,但是由于ChatGPT不对中国开放,所以只能用其他国家的信息来注册。

ChatGPT官方地址:https://openai.com/blog/chatgpt/

注册ChatGPT需要解决两个问题,一、上网代理(代理服务器或者虚拟专用网络);二、需要一个能接受短信的国外手机号码。

准备

  1. 上网代理,最好是韩国,日本,印度,新加坡,美国、加拿大或者欧美这些国家的IP地址,香港的代理可能不行,具体实现方式大家参考科学上网。
  2. 找一个国外手机号码,虚拟号码是不行的,这里推荐一个实惠的接码平台,sms-activate.org。

注册接码平台

第一步是接验证码

打开接码平台,注册一个账号

虚拟号码平台:https://sms-activate.org/

然后要充值余额,接码后台是以卢布为货币单位,但是只能充美金。

一次接码OpenAi的验证码费用是大概10卢布,差不多是1块钱人民币,可以用支付宝充值1美金。

充值完成可能需要等一会,我们开始下一步注册OpenAI账号。

注册OpenAI账号

首先打开ChatGPT的账户注册页面,点击“Sign up”。

用谷歌邮箱或者常用邮箱注册都可以,然后要验证邮件,进去邮箱查看激活链接。

再输入你的姓名和密码等需要的信息。

输入手机号码

接下去需要短信验证,界面如下:

这里国家可以选印度,然后到我们的接码网站上去,在左侧搜索OpenAi,然后点击印度。

再点击右边的购物车”小黄车”。

然后我们复制这个印度的电话号码,粘贴到OpenAi的注册页面,点击发送验证码就完成了。

等一会网站会提示验证码,我们复制填写进去,就完成注册了。

注册过程有问题的话可以在文章后面留言,大家一起讨论。

使用ChatGPT

注册完后,打开ChatGPT网站去登陆。

接下去你就可以随意和OpenAI对话了!

你好,世界!Hello World.

admin阅读(1415)

经常在网上找资料,然后遇到各种门槛,需要注册就不说了,还不容易下载,有些还需要花钱才能下载。

本站秉承免费共享的宗旨,为大家提供常用的资料下载。

大前端WP主题 更专业 更方便

联系我们联系我们