TensorRT 加载模型onnx报错： Error Code 10: Internal Error (Could not find any implementation for node

怕困难的牛牛

4037人浏览 · 2022-10-27 15:48:23

怕困难的牛牛 · 2022-10-27 15:48:23 发布

1. 背景

在TensorRT加载ONNX文件(bert模型）过程出现如标题所示的错误信息。在相同的代码，相同的TensorRT版本，在3090（+win10）可以进行正常加载和推理，在T4（+linux)报了如上的错误信息。

2.解决

设置workspace大小

config->setMaxWorkspaceSize(1<<30);

3.参考

https://github.com/NVIDIA/TensorRT/issues/1766

2048 AI社区

有“AI”的1024 = 2048，欢迎大家加入2048 AI社区

更多推荐

AI修了1072个漏洞，挖洞赚钱这条路却更难走了

这两天网上流传：装个 AI 工具，三步就能帮人挖漏洞赚赏金，日入四位数。AI 会找漏洞是真的，Chrome 两个版本修了 1072 个；但按公开数据，赏金报告的中位数是 500 美元，只有两成报告有奖金，而且入门那一层正在被机器接管。这篇只讲能核对的事实和合法的参与路径。这两天网上流传一套说法：装个 AI 办公工具，跟着三个步骤走，就能帮人挖漏洞赚赏金，熟练之后一天挣四位数。这套话术里有两个部分得