ktransformers编译成功之后运行卡在sched_rpc started with PID: xxxx不动了

这里说的是ktransformers 0.3.2版本, 这个版本的亮点是引入了0.2.4版本有的多线程对话功能，还有缓存机制，但是因为缓存机制似乎设计方面有点赶时间，所以会有一些人反馈报错。

故障现象

控制台打印了以下两行运行信息后, 停在原地不动了:

Getting inference context from sched_client.

sched_rpc started with PID: xxxx

在github上有相关的讨论帖子

https://github.com/kvcache-ai/ktransformers/issues/1430

与rpc关键词有关的故障, 可以通过~/.ktransformers/logs/rpc.log根据具体问题进行debug, 但是这个有点不太一样。

解决方法

你需要在以下两个地方的配置文件是否有错误

1. ~/.ktransformers/config.yaml

2. 你的ktransformers安装路径/ktransformers/configs/config.yaml

把这两个文件里的kvc缓存路径, 改成一样的路径就可以了。

之后再检查一下缓存目录是否满了, 或者权限不足, 为了保险起见, 直接设置为0777即可

例如

chmod -R 777 你的缓存目录位置

如果你一台机子编译过若干个ktransformers版本, 注意迁移~/.ktransformers目录到别的地方备份, 不然可能会导致意外的运行错误。