企业🤖AI Agent构建引擎,智能编排和调试,一键部署,支持私有化部署方案 广告
# **配置S3数据源** 在进行配置之前,请务必检查您的FTP数据源是否符合平台要求,参考如下: | 数据源类型<p style="width:120px"></p> | 版本要求<p style="width:80px"></p> | 用户权限要求<p style="width:100px"></p> | 其他要求<p style="width:120px"></p> | | --- | --- | --- | --- | |AWS S3 | 无 | 相关视图和表的SELECT 权限 | 无 | 确认完毕后,点击「新建数据源」,选择「S3」进行新建操作: :-: ![](https://img.kancloud.cn/ce/db/cedb67da07ff370755c297a62bc3033a_626x719.png =480x) **参数介绍** * 数据源名称:是该数据源在DataPipeline的唯一标识 * Bucket:输入用户使用的Bucket。 * 地区:选择用户的S3服务器位置。 * 访问权限:您可以选择获取访问S3权限的方式,其中有 * Role:使用AWS角色委托授权以获取S3权限。 :-: ![](https://img.kancloud.cn/55/91/5591037c8fa57c83609e65329df595a0_622x721.png =480x) * Access Key:需要输入Access Key ID 和 Access Key :-: ![](https://img.kancloud.cn/e1/34/e1344d3941df604a6eba87b8ecaf1172_617x714.png =480x) * SQS:输入用户使用的SQS名称 * 要求数据源 Bucket 绑定 SQS * SQS只允许被一个数据任务消费 * SQS用来记录bucket 中发生某些事件时的消息通知,系统会根据所记录的变化通知去读变化的文件,而无需扫描全部的历史文件。 * 文件类型:只支持CSV类型 * 表结构 * 静态: 1、指每个文件的表结构是一致的 2、支持同步到所有目的地类型 * 设置首行为字段名称(单选) * 是:读取文件时忽略第一行数据。 * 需要设置表头 * 多个表头用英文逗号隔开 * 不允许为空 * 否:会从文件第一行数据开始同步。 :-: ![](https://img.kancloud.cn/6e/62/6e629d5ff66c30731dfaf28a82096445_620x723.png =480x) * 动态: 1、指允许同步表结构不一致的文件到目的地 2、支持的数据目的地类型:Kafka、FTP、HDFS、Greenplum ![](https://img.kancloud.cn/f7/67/f7677bc60b0f6a905caf9fd72c112316_620x714.png) * 目录:输入数据源读取目录地址,允许为空。 * 如果目录为空,创建任务时目的地表名称默认为default * 编码方式:输入数据源数据的编码方式(支持所有合法的文件编码方式)。 * 文件分隔符(三选一) * 逗号 * 水平制表 * 自定义 * 输入规则为: * 分隔符可为任意字符,支持空格、转义字符等特殊字符; * 可以直接输入的字符,在输入框中直接输入字符或者用Unicode来表示,例如: 分隔符为空格,则直接用键盘输入"空格",或者输入"\u0020"即可; * 无法直接输入的字符,则应输入字符的对应Unicode或者用下表对应转义字符输入,例如:分隔符为换行,则输入"\n",或者输入"\u000a"。 | 字符 | 表示 | | :--- | :--- | | \b | \u0008,退格\(BS\) ,将当前位置移到前一列 | | \f | \u000c,换页\(FF\),将当前位置移到下页开头 | | \n | \u000a,换行\(LF\) ,将当前位置移到下一行开头 | | \r | \u000d,回车\(CR\) ,将当前位置移到本行开头 | | \t | \u0009,水平制表\(HT\) ,跳到下一个TAB位置 | * 特别地,若分隔符要求保留"\",则需输入两个“\”来表示,例如:分隔符为字符串"\b",则请输入"\\b"。 * 元数据管理:开启和关闭,默认是开启 * 开启提示文案:指该数据源允许编辑和查看元数据信息 * 关闭提示文案:指该数据源不允许编辑和查看元数据信息 * 点击连接后将验证数据源连接配置并同时检验数据源版本、权限等信息; * 成功连接后将会自动打开该数据源的详情页: :-: ![](https://img.kancloud.cn/86/59/8659a70d1ddec9c2672c82fa2e8d56c1_762x704.png =480x)