跳到主要内容


组件名称文件清理组件0.1
工具集实时数据交互
组件作者雪浪云 - 杭波
文档版本2.0
功能该模块用于清理其他组件生成的临时文件
镜像名称suanpan-rtdata-cleanup:0.1
开发语言C

组件原理

算盘上的一些组件会生成文件,然后发送给其他组件使用,包括csv文件,npy文件等。当组件发送结束之后,如果下一个组件并没有将其删除(一个组件的后面可能会接入多个组件,其中某个组件收到后并不能直接删除,否则会产生出错),那么这个文件会残留在minio存储上。这个组件是为了清理minio临时文件而设计的,防止硬盘爆满。当收到上一个组件的文件链接之后,延迟一段时间后清理对应的文件。组件内部具有队列加锁的设计,防止多个请求进来发生出错。

输入桩

组件有1个输入

输入端子1

  • 端口名称:输入数据
  • 输入类型:CSV文件,如果需要清理其他格式的文件,需要手动修改类型。
  • 功能描述:待删除的文件的minio链接。CSV文件本质上是一个minio链接。
  • 示例studio/1000001/tmp/55158/16eb9baac31449f29eb428f7c420ef94/e9af00205f0811ec881af5cd301745c8/out2

输出桩

组件没有输出桩

数据接收方式

异步模式同步模式都支持

参数配置

多久之后清理(s)

  • 功能描述:多少秒之后删除此文件
  • 必选参数:是
  • 默认值:5
  • 示例:5

文件名

  • 功能描述:上游传递过来的文件,如CSV文件是data.csv,npy文件是data.npy,其他文件需要查看上游组件的文档。
  • 必选参数:是
  • 默认值:data.csv
  • 示例:如data.csv,data.npy,data.bmp,data.model等等

运行调优

建议不进行特别配置,按照平台的默认分配运行。

使用方法

未部署状态下的操作

后面板连接

这里拖拽出一个实定时触发,CSV上传和文件清理组件,定时触发默认5秒钟触发数据,CSV上传组件部署后需要上传任意一个csv文件。每5秒CSV文件会发送给文件清理组件,文件清理组件收到消息之后会将此CSV文件删除。

image.png

右面板的配置

首先需要判断上级节点生成的文件类型,如果是csv文件,那么选择填写data.csv;如果是npy文件,那么填写data.npy,以此类推;如果是其他类型的文件,需要查阅上游组件的文档得知。然后预估csv文件被后续节点的消费时间,如果很快就消费掉,那么设置5秒后清理即可,如果后续消费的比较慢,那么可以设置的长一点。

部署状态下的操作

部署之后不需要任何操作。