N5105软路由安装ESXi 7直通核显给Debian虚拟机通过Docker实现jellyfin硬件转码视频

ao***

在ESXi 7.0u3e里直通N5105的核显给虚拟机Debian 11(更新到5.18内核)，再套用Docker镜像nyanmisaka/jellyfin (10.8.1) 启用硬件转码。
测试片源America.Wild.National.Parks.Adventure.2016.BluRay.2160p.x265.10bit.HDR.2Audio.mUHD-FRDS，关硬件转码1080p 10Mbits CPU 100%+卡顿，开硬件转码不报错CPU 50%左右流畅。查看log是qsv硬解转码。
以下所有教程都来自网络并注明了引用出处，一并向各位原创者表示感谢。

# 折腾经历
我的N5105软路由是2022年4月底入手的，BIOS到手就是v5.19这个传说中可以直通核显的版本，但是在ESXi 7.0直通核显给Windows或者Ubuntu虚拟机一直没有成功，表现是直通核显后虚拟机开机出现图形界面即死机。

这里 https://www.chiphell.com/forum.php?mod=viewthread&tid=2423078 是一个用N5105直接物理安装黑群晖DS918+ 6.23的成功实现硬件转码的案例。我把核显直通给黑群晖DS918+6.23虚拟机，按照帖子里的要点可以打上核显补丁，在黑群系统里看到核显，但是jellyfin调用不成功，开启硬件转码后客户端提示“`播放错误该客户端与媒体不兼容，服务器未发送兼容的媒体格式`”，并一直循环报错。用软解CPU自然是100%，卡顿无比，没有实用价值。

这个帖子https://www.right.com.cn/forum/thread-8237662-1-1.html归纳了三种N5105核显成功实现硬件转码的情况，宿主机分别是PVE 7.2、Unraid 6.12和Windows server 2019，本质上核显都是在宿主机上实现驱动或者用容器调用宿主机的核显，并没有把核显真正的直通给虚拟机。

那么用EXSi做宿主机是否一定不能直通核显到虚拟机实现硬件转码呢？我开始了摸索和尝试，在几篇教程的指引下，终于成功实现了这个目的。

具体过程请移步我的博客浏览：

https://aoeii.com/posts/N5105_passthrough_iHD_Jellyfin

或者

https://blog.csdn.net/aoeii/article/details/125834294

djw0***

博客打不开

ao***

djw00000 发表于 2022-7-16 16:37
博客打不开

等我有空搬到csdn上

ko33***

强啊大佬

tai***

添加核显直通，禁止虚拟机显卡后，虚拟机就启动不了

ruff***

牛逼，赶紧学习一下

ao***

taihaj 发表于 2022-7-17 20:14
添加核显直通，禁止虚拟机显卡后，虚拟机就启动不了

我好像一开始也遇到过这个问题，关闭虚拟机电源再打开就可以了，等一会儿能ping通虚拟机

lifa***

N5105软路由安装ESXi 7直通核显给Debian虚拟机通过Docker实现j

Pan***

学习学习

11296***

现在入手N5105可以吗

yangyu***

真的可以搞么？

tai***

aoeII 发表于 2022-7-17 20:31
我好像一开始也遇到过这个问题，关闭虚拟机电源再打开就可以了，等一会儿能ping通虚拟机

Debian11虚拟机是EFI启动还是BIOS启动?我用BIOS启动不行。换成efi可能要重装，好像不会关机。

mxs***

学校学校

rock***

学习一下

ao***

taihaj 发表于 2022-7-17 23:02
Debian11虚拟机是EFI启动还是BIOS启动?我用BIOS启动不行。换成efi可能要重装，好像不会关机。

没装图形界面吧，装了图形界面启动必死。

我的Debian 11 是BIOS启动，按理说不应该，等我重新安装一台新的Debian VM试试