Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

是否可以通过什么工具去监测小米14上的硬件(CPU、GPU、NPU)和内存的使用情况? #215

Open
Smallhucaptain opened this issue Dec 25, 2024 · 4 comments

Comments

@Smallhucaptain
Copy link

@oreomaker
你好,我想请问一下,Qualcomm 是否有什么工具可以监测到推理过程中CPU、GPU、NPU的硬件使用状况(硬件利用率、吞吐量、计算单元使用情况等等)和内存的使用情况呢?如果Qualcomm没有类似的工具,那么如何去监测这些信息呢?

@yirongjie
Copy link
Collaborator

您可以尝试使用Snapdragon Profiler

@Smallhucaptain
Copy link
Author

@yirongjie ,你好,我也看到了Snapdragon Profiler 这个工具,但是我发现这个工具好像不能监测到NPU的使用情况,而且这个工具是基于应用程序进行监控,而mllm项目是直接利用NPU进行推理,好像并没有基于应用程序(我知道项目有一个chatbot),那么如何监控NPU的利用情况呢?

@yirongjie
Copy link
Collaborator

@liang1232018 @oreomaker 请问二位时候可以给出一些监控NPU的工具?

@oreomaker
Copy link
Collaborator

高通平台目前应该是只有Snapdragon Profiler,在设备文件中找不到与dsp/npu相关的文件。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants