本帖最后由 lucifer6e 于 2021-10-20 22:22 编辑
沙发先占了,慢慢发装机图
照片都是用iPhone 13 Pro Max的Cinematic模式拍了截图的,感觉效果挺不错的,拍出来都是Dolby Vision的
ROMED4ID-2T
装机计划的诞生是因为看到了ASRock Rack出了这款神奇的妖板:
https://www.asrockrack.com/general/productdetail.asp?Model=ROMED4ID-2T
ROMED4ID-2T,非标准尺寸的"Deep mini-ITX“主板,Socket SP3
基本上就是比传统ITX在正对着IO的方向上宽出来一截(上图右侧)
EPYC服务器平台,最高支持到EPYC Milan 64核
支持4通道ECC DDR4,不像某些号称服务器级的ITX小板却只能用SODIMM,或者只有2个内存槽
1个M.2 22x80,PCIe 4.0x4 NVMe/SATA
1个PCIe 4.0 x16
2个10GbE RJ45口,网卡是Intel X550-AT2,支持SR-IOV
6个Slimline 8i接口(等同于6个PCIe 4.0 x8,都可以拆分成x4x4,另外1和2号可以拆分成8个x1搭配转接线变成最多16个SATA口,不过全网买不到能用的转接线,喷了)
另外还有一个单独的IPMI专用网口,以及2个Type-A USB3.2 Gen1在背板上
ROMED4ID-2T-angle view
这也太有意思了吧,于是我就有了利用这块主板装一台超小型All in one homelab的念头
- 必须要ITX机箱,在此基础上越小越好,挑战极限
- 必须要能放得下全尺寸显卡,没有显卡没有灵魂。It must be able to run Crysis, with Ray Tracing!
- 还要塞得下许多SSD,装TrueNAS组ZFS阵列给虚拟机用,2-way mirror+SLOG+special metadata vdev+大内存
- 全部使用Intel企业级SSD,支持掉电保护才敢给ZFS用
- 打算全用猫头鹰风冷散热,因为机箱尺寸和SP3接口的限制,上水冷并没有多大好处,而猫扇就可以全部无脑拉到100%挂着去了
- 不装软路由不算All in one,装pfSense做软路由,a portable data center
接着开始选机箱,首先看的是Cooler Master NR200,20L体积,后来觉得NR200太大,而且主要是为了水冷设计的,放弃。
Cooler Master Elite 130,也是20L体积,特点是有个5.25寸插槽,搭配Icy Dock的转换托架可以放很多U.2 SSD,但是电源位置在CPU上方,散热有点受限。
后来又发现一款同样大小的Fractal Design Core 500,硬盘位置超多,也有一个5.25插槽,电源在主板旁边,散热器高度不受限,可以放得下猫头鹰最大的SP3散热器U14S,就是这个电源的位置好像跟主板不兼容,有点遗憾
搜索的时候我看到Linus的一期视频里用Silverstone SG15玩过这个主板,19L,要动刀拆掉中间一个挡板才能用。https://www.bilibili.com/video/BV1zT4y1P7qW
然后我就发现了Silverstone的另一款ITX机箱,SUGO 13 (SG13),222x181x285,只有11.5L的体积,真刺激!
我还找到了当年青涩的白嫖王review SG13的视频,(The MOST Compact Gaming PC - Titan X & 18 Core Xeon CPU in a Shoebox - YouTube)
发现他利用电源位上方的空间多放了两个SSD,这招不错,就决定用SG13了。
(另外Ncase M1也是这个体积,但它主要是给M.2 + AIO设计的,没有那么多2.5寸盘位,而且我不太喜欢那个外观。还有个还没上市的DAN case C4-SFX,为这款主板的尺寸做过特别优化,也是硬盘位不够)
ROMED4ID-2T-power
主板的供电口,两个8-pin CPU供电,一个4-pin主板供电,还有一个4-pin是给随机附赠的4-pin转6x SATA供电线用的
ROMED4ID-2T-slimline
Slimline接口如图所示,也叫SlimSAS,不要跟Oculink搞混了
从右至左为1~6号,1 / 2号为了显示其特殊性ASRock脑抽选了个LowProfile的规格,导致常规的线材都不能用,本来Slimline(SFF-8654)的线就已经很贵了,我找遍全网只看到一家有卖LowProfile转LowProfile的线,没有蛋用。这两个口暂时等于不能用。
ROMED4ID-2T-M.2
主板上只有一个M.2口,有点可惜不过也没有空间放更多了。支持SATA或者PCIe 4.0x4
放启动盘用的,我选了SATA规格Intel D3-4510 960GB,为了兼容性,稳定和温度。反正Hypervisor启动盘平时没有多少读写
只在上面装PVE7,TrueNAS SCALE,pfSense
EPYC 7642
CPU本来想用4通道强化的16核7282的,后来看到个不错的48核7642的deal,就它了
CPU Installed
把主板装在CPU上
Memory
内存用的是4条128GB的三星LRDIMM DDR4-3200 ECC,因为ZFS需要大内存,然后跑很多虚拟机也需要大内存,打算分一半256GB给TrueNAS,剩下的用来跑虚拟机
M386AAG40AM3-CWE - Samsung 1x 128GB DDR4-3200 LRDIMM PC4-25600L Quad Rank x4 Module (memory.net)
TPM2-Front
为了兼容Windows 11我还专门搞了颗TPM的芯片
TPM2-Back
TPM2芯片搭配Mortar + Proxmox可以实现Full Disk Encryption and Boot Stack Protection,将来有时间可以试一下
mortar/proxmox-install.md at master · noahbliss/mortar · GitHub
D3-S4510
Intel D3-S4510 960GB,这是我唯一能找到的Intel企业级有PLP掉电保护的M.2 22x80的SSD。Intel很少有M.2 22x80这个规格的企业盘,基本都是22x110。
今年新出的SATA TLC D3-S4520就只有480GB的版本,其实480GB做启动盘也足够了,没用主要是因为下了订单要12月底才有货。
M.2 Installed
我给它套了个PNY的散热马甲,还挺合适的
Dynatron A26 + NF-A6x25 PWM
散热器因为高度限制,只有Dynatron A26这个合适。自带的暴力扇忍不了,我换了个Noctua NF-A6x25 PWM
CPU Cooler Installed
装上以后的样子
SG 13 Frame
机箱去了外壳和前盖就是个铁框,真就是比鞋盒大不了多少
P4501 at bottom
底座上的SSD位置也不能浪费了,因为还要在上边盖主板,所以厚度只能选7mm的
7mm的Intel U.2,也是就只有DC P4501这一款可以选了,而且已经停产了,我买了两块号称全新的4TB,查了保修明年到期,不知道是不是矿渣清0盘,反正也不放重要数据,无所谓了,把位置都填满我就满意了
Motherboard Installed
放上去以后刚刚好,线也没被挡到,一切顺利
RTX 8000
显卡我找了块Quadro RTX 8000,专业级显卡才配得上服务器平台嘛。48G显存配上vgpu_unlock的话,最多能开48个虚拟显卡,支持光追!
GPU Installed
装上去以后发现这卡电源接口是在前边的,不弄个LowProfile接线的话,就盖不上前盖了
NF-A15 PWM
NF-A15 PWM,最主要的前置风扇
Front Fan Installed
本来准备的A12,但是我惊喜的发现A15也能装得下,还是一寸大一寸强吧!
Adapter too big
这风扇装上以后常见的PCIe矮转接头已经不能用了
Extension Cable
还好我找到了这种线头型的延长线
Extension Cable Installed
一个6-pin,一个8-pin,刚刚好
Extension Cable vs Original Cable
跟SF750附赠的原装线对比一下,原线要宽出去1个厘米还多,不换的话前面板关不上了
Inside View
里边这个角度再观察一下
Slimline 8i Cable
接下来装给Slimline配的硬盘线,3根Highpoint TS8i-8639-060,0.6m,$35一根
SlimSAS 8i转U.2 x2 with SATA power
SFF-8654 to SFF-8654 8i
还有个10Gtek的0.5m 8i转8i线,$22,都是我能找到的最短的了
https://www.amazon.com/gp/product/B082NT2ZV9/
Slimline cable installed
4根线全部插进去的效果,位置顺序后来有略微调整
SF750
电源选了比较靠谱的海盗船SF750,贴心附赠了SFX转ATX挡板。
这个挡板颠倒过来装也是可以的,这样电源位置就会高一些。
NR092L from SF750
原装接在电源上的风扇,不是一直转动的,负载低的时候会停转,但我特别需要这个风扇来帮助机箱排风,所以拆开来换了个Noctua NF-A9x14 PWM直接接在主板上
SF750 with NF-A9x14 PWM + NF-A4x20 PWM
电源线从缝隙里直接穿出来,另外搭配赠送的Y分离线,我又接了个小的NF-A4x20 PWM,用来给SSD散热
Bended PSU Holder
机箱上有个ATX电源托架,用SFX电源的时候就根本碰不到没有用处了,所以我把它掰弯了一点点,刚好顶住电源防止下沉
PSU Installed
如果把SFX转ATX那个挡板倒过来装的话,电源会上移几公分,留一些空间出来在CPU散热器上方。
但是我需要在电源顶部放两个SSD,所以就选择这样贴合着安装了,螺丝拧紧后整个电源是微微贴在散热器上,希望CPU能挺住
Inside look with PSU installed
近距离观察一下,十分大胆的玩法
PSU Fan Exhaust
电源风扇负责吸风从背部排出去
Top look with PSU installed
这样争取出来的宝贵的顶部空间,用来多放两个SSD,然后之前那个猫头鹰A4x20放在GPU上用双面胶粘在机箱尾部
Fan power plugged in
主板上一共有3个风扇接口,一根在另一侧,接了CPU散热器上的A6,然后挨着GPU这边并排两根风扇排线,一根接前置A15,一根接Y分离线的A4+A9
D7-P5510
接下来是做主存储的两块Intel D7-P5510, 7.68TB,最新的PCIe 4.0x4 NVMe。放在SG13自带的硬盘支架上,ZFS 2 way mirror,保证最好的性能。
SSD on top
盖在机箱上前方
P4801X
两个Intel Optane DC P4801X,100GB,做ZFS SLOG专用盘,加速
SlimSAS 8i to M.2
为了利用好那几个Slimline,我翻了许多网站想了各种办法,最容易的还是转成2个U.2,或者转成2个Oculink接Icy Dock
Icy Dock官网上有几个非常屌的产品,比如5.25寸PCIe 4.0x4 M.2 8盘位,需要8个Oculink,热量不敢想
MB873MP-B_ToughArmor Series_REMOVABLE U.2 / M.2 SSD ENCLOSURES_ICY DOCK manufacturer Removable enclosure, Screwless hard drive enclosure, SAS SATA Mobile Rack, DVR Surveillance Recording, Video Audio Editing, SATA portable hard drive enclosure
或者5.25寸U.2 4盘位,4个Oculink
MB699VP-B V2_ToughArmor Series_REMOVABLE U.2 / M.2 SSD ENCLOSURES_ICY DOCK manufacturer Removable enclosure, Screwless hard drive enclosure, SAS SATA Mobile Rack, DVR Surveillance Recording, Video Audio Editing, SATA portable hard drive enclosure
但是都还没有上市开卖,我这机箱又没有5.25槽位,就不考虑了
后来让我看到了这款神奇的3.5硬盘架,SlimSAS 8i转M.2双盘位的产品,最高支持到22x110,$88,现在已经没货了
https://www.amazon.com/gp/product/B08HZG43KR/
接线只需要一根SlimSAS 8i和一个SATA供电就行了,非常省空间
既然能上22x110,那就非傲腾P4801X莫属了,100GB足够做SLOG了
One more P4501
最后还剩一个U.2口,用来插另一个P4501
P4501 taped together
SSD挡板下边正好有个突起,就把这个4501用双面胶粘在这里了
3.5 cage installed
放置3.5硬盘架的位置就是这里,刚好可以帮助安排风道,同时风吹过M.2散热片带走热量
上边隔出来的空间用来理线,寸土寸金啊
Hold 3.5 cage with wire
利用硬盘架背部的凹槽,我用一根音箱线就把它固定住了,硬盘架另一端直接搭在CPU散热器的A6风扇上,很稳当
Nice knot
照着网上视频打了个渔夫结,方便拆卸维护
Side view with cables
箭头指的是P4501,位置正好可以插上U.2接线。多余的线都怼到空隙里,给CPU风扇留好空间
主板供电是用附带的白色那个4-pin转24-pin ATX线连接的,我把它放到了电源和电源挡板的空隙里
P4501 installed
近距离观察下理线
Inside view after 3.5 cage installed
硬盘架下方空间近距离观察,正面A15进来的风顺势被A6吸走穿过CPU散热片,没有阻碍
GPU是公版blower style风扇,侧面吸风,后方接口处排风,不影响机箱内风道
Top view with cables
最后再放上两个Intel Optane P5800X,400GB,同样用来ZFS 2 way mirror,做Special metadata vdev,放快速读取的小数据块
Top view after tape
上边没什么好办法理线了,干脆拿块黑胶布盖上完事~
Overview
搞定收工,其貌不扬但实力惊人。之后有空我再写写系统配置心得什么的吧
|