ubuntu显存 ubuntu 查看显卡
大家好,今天小编来为大家解答以下的问题，关于ubuntu显存，ubuntu 查看显卡这个很多人还不知道，现在让我们一起来看看吧！
Ubuntu下查看CUDA版本及显存占用情况
在Ubuntu系统中，确保软件与显卡兼容是至关重要的。下面分享两种有效的方法来查看CUDA版本及显存占用情况，避免版本匹配问题带来的困扰。
方法一：
无需复杂的操作，只需找到CUDA安装过程中保存的version文件。只需在终端输入命令:
通过这种方法，可以直接获取到CUDA的版本信息，简单直接。
方法二：
更为全面的是，你可以通过命令行同时查看显存占用和CUDA版本。这个命令不仅可以帮助你监控GPU的使用效率，还能一目了然地看到CUDA的当前版本，便于实时调整和优化。
这两种方法能帮助你在Ubuntu环境下轻松掌握CUDA的版本信息和显存使用情况，避免因版本不匹配带来的麻烦。
ubuntu20.04安装NVIDIA Tesla M10显卡跑llama3-70B
Ubuntu 20.04安装NVIDIA Tesla M10显卡以支持vGPU或显卡穿透，这通常用于虚拟化平台。尽管M10显卡算力较低，仅为GTX750级别，但因其32GB显存，作者决定花费时间进行实验以测试llama3-70B的安装和性能。
M10显卡作为内嵌于系统中的无显示输出平台卡，不需主动散热，作者将其安装在服务器环境中。对于家庭用户，如果没有服务器，可考虑在PC上增加散热设备。
首先，升级Ubuntu 20.04至最新内核5.15.0-107，并禁用自动更新以防止驱动冲突。通过SSH远程管理，因为M10驱动安装后，它会作为默认GPU，但无显示输出。
安装过程涉及下载NVIDIA GRID架构的非官方驱动，如NVIDIA-Linux-x86_64-550.90.07.run，然后禁用默认驱动，配置环境变量，最后成功安装并验证nvidia-smi工具的运行。
安装CUDA和cuDNN是为了支持深度学习，其中CUDA 12.4.1与驱动版本相匹配，而cuDNN的9.1.1版本也成功安装。然而，安装llama3-70B时遇到CUDA内存不足的问题，通过调整VRAM大小得以解决，尽管模型运行速度缓慢。
对比8B模型，70B模型在逻辑推理方面表现更好，但中文处理仍有提升空间。而且，70B模型尽管使用了4个GPU，但仅一个GPU工作，资源利用效率不高，且CPU和内存占用较高。
ubunturam共享显存nvidia
在开机时按DEL键进入bios设置，进入advancechipsetfeatures选项在AGPapertures(MB)选择你要分配的显存大小。
NVIDIA显卡的TC（TurboCache）技术和AMD（原ATI）显卡的HM（HyperMemory）技术，两者原理都相似，都是使用电脑自身内存部分空间来充当显存使用。可以这样说，内存和显存都是内部储存，但是工作的对象不同，内存是为CPU（主要处理计算）工作，显存是为显卡工作。而使用这个技术过后就可以让一部分内存去为显卡工作，而另一部分仍然还是为CPU工作。最后为显卡工作的有显存+一部分内存，而为CPU工作的就只有剩下的另一部分内存了。
