ff2021(码农闰土)
Queries vary in degree of difficulty, but for the average query, the servers it touches each work on it for just a few thousandths of a second. Together with other work performed before your search even starts (such as building the search index) this amounts to 0.0003 kWh of energy per search, or 1 kJ.
(#16346679@0)
Last Updated: 10-22
Replies, comments and Discussions:
-
枫下家园 / 电脑电信 / 数据中心耗电惊人，尤其是现在的人工智能，是否建在比较冷的地方更省电？比如阿拉斯加或埃德蒙多，就像中国把数据中心建在贵州，那里不仅电便宜，也更冷一点
-wuyg719(平平);
10-20
(#16342924@0)
+1
-
有说矿场在内蒙
-xiaozuiba(老牌铲屎官);
10-20
(#16342927@0)
+1
-
还有新疆，俺们贵州的确是数据中心，但矿场好像真没听说。夏季凉爽是一个原因，还有就是没有地震、水灾，不容易战争。以前在银行，参与灾备中心选址，这是标准，反而电费不考虑。
-songc(tnt刁民送菜哥);
10-20
(#16342931@0)
-
为什么冷的地方省电
-3293(春眠不觉晓);
10-20
(#16342930@0)
-
节省空调费用，如果外面是零下，直接就可以用风扇降温
-wuyg719(平平);
10-20
(#16342933@0)
+1
-
😄
-**🍾;
10-20
(#16342943@0)
-
我觉得降温的电耗有限，国家安全事儿大，否则建在地下岂不更好
-3293(春眠不觉晓);
10-20
(#16342945@0)
-
那些地方其实挺安全的：在埃德蒙多有空军基地，周围人少容易控制间谍渗透，建在地下成本很高，而且不容易降温，传统数据中心的运营成本电费占比为28%。 新的人工智能数据中心这个比例只会越来越高
-wuyg719(平平);
10-20
(#16342953@0)
-
对于运算中心来说，降温是最大的电耗，所以挖矿的喜欢去寒冷的地方
-qwedward(..);
10-20
(#16343179@0)
+1
-
数据中心是室内，还得有空调。
-troyd(老陈);
10-20
(#16342978@0)
-
空调室外温度低的时候电耗会少很多
-wuyg719(平平);
10-20
(#16342986@0)
+1
-
HVAC 耗电和 mass computers 耗电比，不是一个数量级吧。只要看电费费率，交通，税率，电源可持续性，搬迁可能性等等吧。
-troyd(老陈);
10-20
(#16343080@0)
-
消耗的电能最后都变成了热量，而机房需要恒温，所以需要空调把这些热量都搬走
-wuyg719(平平);
10-20
(#16343095@0)
-
From chargpt
-troyd(老陈);
10-20
{202}
(#16343146@0)
:
-
这些废热利用都需要一定的条件，而数据中心为了安全和低廉的电价，很难满足这些条件，你总不能夏天的时候还加热别人的暖房吧？难道夏天就不运行了？
-wuyg719(平平);
15:52
(#16343232@0)
-
Quebec, Greenland.
-curve(curve);
10-20
(#16342989@0)
-
降温只是其中一个考虑，选址的因素很多，比如有的应用对latency有非常严格的限制，这时需要考虑物理距离和经过的节点和每个节点增加的latency.
-mikesmith(老猫);
10-20
(#16343000@0)
-
中国能做到东数西算，北美没道理做不到，从四川到上海的距离比埃德蒙多到硅谷的距离更远
-wuyg719(平平);
10-20
(#16343078@0)
-
硅谷有自己的法子，有太阳能有核能，创新才是解决问题的根本方法。中国迟早还是要学习硅谷的。
-pili(小黑);
10-20
(#16343112@0)
+2
-
要客观看待问题，向对手学习它们的长处，而不是一味强调政治正确或屁股决定脑袋
-wuyg719(平平);
10-20
(#16343451@0)
-
这个取决于app, 比如有些AI Health Care相关的， 物理距离受光速限制
-mikesmith(老猫);
10-20
(#16343271@0)
-
我上面已经提到了人工智能训练这种非常耗电的应用，这种应用对时延不敏感，都是些动不动几天甚至几个星期才出结果的东西，延迟一秒有什么关系？您说的那个叫AI推理，反而不需要多少能耗，而且一般在终端里
-wuyg719(平平);
10-21
(#16343439@0)
+1
-
不但是温度，湿度也比较重要，所以数据中心一般来说招电气工程师都得会HVAC control这方面的东西
-expertune(伪劣);
10-20
(#16343163@0)
-
冷的地方湿度都比较低
-wuyg719(平平);
10-22
(#16343249@0)
-
不一定
-shaoxing(绍兴师爷);
15:57
(#16380830@0)
-
加拿大大，找这种地方太容易了，比如草原三省就比较干燥
-wuyg719(平平);
16:08
(#16380851@0)
-
多年来联邦政府对开发草原省份有很严格的法律法规，令投资者望而却步
-shaoxing(绍兴师爷);
16:22
(#16380871@0)
-
机房除了散热没有任何污染，而热量刚好可以拿来搞暖气和暖棚，不能刻舟求剑啊
-wuyg719(平平);
16:49
(#16380909@0)
-
还是需要占用开发大片土地，修路，供水，供电，供气，维修，保养，就会涉及排放污染物，环保小母啥的就都来了
-shaoxing(绍兴师爷);
17:03
{203}
(#16380937@0)
:
-
世界上最适合的地方是西伯利亚，两个条件都满足，普京躺赢。西方都建在海底，现在在担心海水温度升高影响环境
-hct01(Hct01);
10-20
(#16343266@0)
-
加拿大也有大片北方土地
-wuyg719(平平);
10-20
(#16343443@0)
-
建海底的难度不是一般地高，怎么在海底开机器都是个问题
-wuyg719(平平);
16:09
(#16380852@0)
-
AWS在加拿大的两大云服务中心分别在魁省与阿省
-iamflying(叶和花);
10-20
(#16343598@0)
-
可以建更多的数据中心，我的暖棚就指望它们了
-wuyg719(平平);
10-22
(#16344711@0)
-
听Jensen Huang 讲GPU 用的是liquid cooling, 空气恐怕不够
-walkthrough(elevated);
10-21
(#16345045@0)
-
不管那种降温方法，外面比较冷的时候，空调的能耗会降低，物理学基本原理
-wuyg719(平平);
10-21
(#16345335@0)
-
数据中心在加拿大这么冷的地方一点也不少耗电，我和boss讨论过这个问题，冬天能否利用天然的冷气来降温，好像没有这个设计，还是用恒温空调，屋内正常暖气
-palwang2000(重现江湖);
10-21
(#16345069@0)
-
外面比较冷的时候，空调的效率会提高，能耗会降低，物理学的基本原理
-wuyg719(平平);
10-21
(#16345334@0)
-
你忘了外面比较冷的时候，屋内的暖气需要开的很足才能保证一个室温，然后机房的空调再开足马力降温
-palwang2000(重现江湖);
10-21
(#16345411@0)
-
显然你还没有搞清楚AI芯片是如何耗电的，英伟达现在的主力GPU芯片H100大约700瓦的能耗，而下一代是1200瓦，每个芯片是个小电炉，这么多堆在一起，不管外面多冷你唯一要做的是降温
-wuyg719(平平);
10-21
(#16345966@0)
-
以前一个GOOGLE查询就要费一度多电，现在问CHATGPT一个问题，估计要耗费好几度电。
-ff2021(码农闰土);
10-21
(#16345088@0)
-
这么夸张，那CHATGPT不亏死了？
-eer(eer);
10-21
(#16345114@0)
-
这是工业用电，不是家用，一度几分钱的那种。
-ff2021(码农闰土);
10-21
(#16345387@0)
-
美国人有个提法说要融合加拿大因为资源丰富能为未来AI提供电力
-giss(rr);
10-22
(#16346439@0)
-
网上查来的：ChatGPT每天需要响应1.95亿次请求，预计每天需要消耗564兆瓦时电力，每个请求大约2.9瓦时
-wuyg719(平平);
10-21
(#16345973@0)
+1
-
收回俺说的，把KJ看成了KW了。
-ff2021(码农闰土);
10-22
(#16346639@0)
-
kj是一千焦耳吗？这个可能比kw还大呀？是不是焦耳本身？
-wuyg719(平平);
10-22
(#16346668@0)
-
这个是刚刚查到的，几年前看到的文章，忘了处处了。
-ff2021(码农闰土);
10-22
{303}
(#16346679@0)
Queries vary in degree of difficulty, but for the average query, the servers it touches each work on it for just a few thousandths of a second. Together with other work performed before your search even starts (such as building the search index) this amounts to 0.0003 kWh of energy per search, or 1 kJ.
-
肯定越冷越好，对AI来说目前的宇宙都还太热，能效不足以诞生真正的人工智能
-bigbobo(_);
10-21
(#16345405@0)
-
大型的数据中心的选址要考虑 用电便宜，降温容易，地质状况稳定。
-jianghongca(慎独);
17:02
(#16380935@0)