组件名称 | 文件清理组件0.1 |
---|---|
工具集 | 实时数据交互 |
组件作者 | 雪浪云 - 杭波 |
文档版本 | 2.0 |
功能 | 该模块用于清理其他组件生成的临时文件 |
镜像名称 | suanpan-rtdata-cleanup:0.1 |
开发语言 | C |
组件原理
算盘上的一些组件会生成文件,然后发送给其他组件使用,包括csv文件,npy文件等。当组件发送结束之后,如果下一个组件并没有将其删除(一个组件的后面可能会接入多个组件,其中某个组件收到后并不能直接删除,否则会产生出错),那么这个文件会残留在minio存储上。这个组件是为了清理minio临时文件而设计的,防止硬盘爆满。当收到上一个组件的文件链接之后,延迟一段时间后清理对应的文件。组件内部具有队列加锁的设计,防止多个请求进来发生出错。
输入桩
组件有1个输入
输入端子1
- 端口名称:输入数据
- 输入类型:CSV文件,如果需要清理其他格式的文件,需要手动修改类型。
- 功能描述:待删除的文件的minio链接。CSV文件本质上是一个minio链接。
- 示例:
studio/1000001/tmp/55158/16eb9baac31449f29eb428f7c420ef94/e9af00205f0811ec881af5cd301745c8/out2
输出桩
组件没有输出桩
数据接收方式
异步模式同步模式都支持
参数配置
多久之后清理(s)
- 功能描述:多少秒之后删除此文件
- 必选参数:是
- 默认值:5
- 示例:5
文件名
- 功能描述:上游传递过来的文件,如CSV文件是data.csv,npy文件是data.npy,其他文件需要查看上游组件的文档。
- 必选参数:是
- 默认值:data.csv
- 示例:如data.csv,data.npy,data.bmp,data.model等等
运行调优
建议不进行特别配置,按照平台的默认分配运行。
使用方法
未部署状态下的操作
后面板连接
这里拖拽出一个实定时触发,CSV上传和文件清理组件,定时触发默认5秒钟触发数据,CSV上传组件部署后需要上传任意一个csv文件。每5秒CSV文件会发送给文件清理组件,文件清理组件收到消息之后会将此CSV文件删除。
右面板的配置
首先需要判断上级节点生成的文件类型,如果是csv文件,那么选择填写data.csv;如果是npy文件,那么填写data.npy,以此类推;如果是其他类型的文件,需要查阅上游组件的文档得知。然后预估csv文件被后续节点的消费时间,如果很快就消费掉,那么设置5秒后清理即可,如果后续消费的比较慢,那么可以设置的长一点。
部署状态下的操作
部署之后不需要任何操作。