日志和文件接入规范


    数接入规范日志文件
    修订历史
    日期
    修改说明
    部门
    修改









    数接入需求
    基数采集需求初步判断数接入源否日志文件进行获取联系技术研发部事请求数源接入位置参数通配置化方式定期读取服务器指定位置日志文件通程序清洗日志分割成字段装载数仓库贴源层
    数接入流程
    1 数中心分析组接TAPD数接入需求分析接入数属数接口列表系统应系统标题添加模板参APPapp_login_log
    需求发起进行沟通确定提供数方式(数库文件接口等)需求发起补充详细数口径补充需求求里面指定数仓库组台组进行转发
    2 数仓库组台组根需求描述数源提供方(需求发起方技术研发部门)沟通补充模板里位置参数
    3 数源提供方根模板求提供位置配置参数
    4 数仓库组台组接入数整理数格式编写日志清洗转换脚补充装载目标表信息
    5 数中心分析组终接入数进行验收通知需求发起获接入数
    数源接入模板
    需求求(分析组补充)
    tapd需求单号:1002513
    提起:xxx(Richardchen)
    需求单号容:
    ???
    提供数方式:
    数库文件接口
    详细数口径:???
    位置配置参数(技术研发部补充)
    配置参数
    参数取值
    服务器址
    19216811
    端口类型
    ftp
    端口号
    22
    系统户名
    user
    密码
    pwd
    日志路径
    日志文件通配符
    xxxyyyymmddAppLog
    app_login_log_[yyyymmdd]json
    日志容分割规
    文字描述

    接入模型字段(仓库组补充)
    字段名
    注释
    字段类型
    必填
    必填
    必填
    必填
    必填
    必填

    抽取参数(仓库组补充)
    配置参数
    参数取值
    抽数周期

    抽数时间
    700
    文件名匹配条件
    1:全量匹配抽取(匹配通配符抽取)
    2:日期匹配抽取(仅抽取通配符日期字段匹配数日期条件文件)
    数日期格式
    Yyyymmdd
    Yyyymmdd
    数日期条件
    1:天日期
    2:前时间日期
    3:前时间属周周日
    4:前时间属月号

    日志清洗转换脚(仓库组补填)
    补充脚位置t8tbidsc\logapp\logapppy

    装载目标表(仓库组补填)
    配置参数
    参数取值
    stg层表名称
    必填
    stg层表描述
    必填
    ods层表名称
    必填
    ods层表描述
    必填

    数接口列表
    PC
    H5
    APP
    app_login_log
    l 需求单号(分析组补充)
    tapd需求单号:xxxxxxx
    提起:xxx(Richardchen)

    l 位置配置参数(技术研发部补充)
    配置参数
    参数取值
    服务器址
    19216811
    端口类型
    ftp
    端口号
    22
    系统户名
    user
    密码
    pwd
    日志路径
    日志文件通配符
    xxxyyyymmddAppLog
    app_login_log_[yyyymmdd]json
    日志容分割规
    文字描述

    l 接入模型字段(仓库组补充)
    字段名
    注释
    字段类型
    必填
    必填
    必填
    必填
    必填
    必填

    l 抽取参数(仓库组补充)
    配置参数
    参数取值
    抽数周期

    抽数时间
    700
    文件名匹配条件
    1:全量匹配抽取(匹配通配符抽取)
    2:日期匹配抽取(仅抽取通配符日期字段匹配数日期条件文件)
    数日期格式
    Yyyymmdd
    Yyyymmdd
    数日期条件
    1:天日期
    2:前时间日期
    3:前时间属周周日
    4:前时间属月号

    l 日志清洗转换脚(仓库组补填)
    补充脚位置t8tbidsc\logapp\logapppy

    l 装载目标表(仓库组补填)
    配置参数
    参数取值
    stg层表名称
    必填
    stg层表描述
    必填
    ods层表名称
    必填
    ods层表描述
    必填

    app_diary_log
    程序
    文档香网(httpswwwxiangdangnet)户传

    《香当网》用户分享的内容,不代表《香当网》观点或立场,请自行判断内容的真实性和可靠性!
    该内容是文档的文本内容,更好的格式请下载文档

    下载文档到电脑,查找使用更方便

    文档的实际排版效果,会与网站的显示效果略有不同!!

    需要 5 香币 [ 分享文档获得香币 ]

    下载文档

    相关文档

    爬虫接入规范

    爬虫接入规范修订历史日期修改说明部门修改人2018.06.12大数据中心李永波数据接入需求基于数据采集需求,初步判断数据的接入源是否从业务数据库中获取。联系技术研发部同事,请求数据源接入的位置...

    4年前   
    593    0

    数据库接入规范

    数据接入规范-数据库修订历史日期修改说明部门修改人数据接入需求基于数据采集需求,初步判断数据的接入源是否从业务数据库中获取。联系技术研发部同事,请求数据源接入的位置参数,通过配置化方式达到将数...

    4年前   
    780    0

    沈阳东东系统集成有限公司质量管理规范文件(表)——安装和维护工作日志

    安装和维护工作日志 记录编号:QP格式QP-kkxxxxxx-nn其中kk为00,xxxx...

    11年前   
    370    0

    接入网规范篇测试试卷

    接入类●规范篇测试 分公司:             部门:              姓名:               分数:             一、填空题(每空1.5分,共计...

    11年前   
    10091    0

    “国培”日志和感悟

    “国培”日志和感悟  今天我在县教委领导的信任下,怀着兴奋的心情,来到位于哈市南岗区珠江路19号的金三角招待所,准备参加维时15天的“国培”计划(xx)---黑龙江省农村骨干教师薄弱学科培训项...

    12年前   
    473    0

    电子文件文档归档与管理规范操作

    电子文件文档归档与管理规范操作 一、概述     根据项目部以往电子文件文档管理存在的问题,如:电子文件文档命名含糊不清、人员调动电子文件的相互交接不清、同一文件多个版本共存、最终电子版的...

    14年前   
    16668    0

    规范性文件转送函

    规范性文件转送函  ____________[ ]号  ________________(接受转送机关):  ______(申请人)不服______________________(被申请人的...

    9年前   
    752    0

    关于加强规范性文件管理的通知

    关于加强规范性文件管理的通知为认真贯彻落实《湖北省人民政府关于加强市县政府依法行政的实施意见》(鄂政发〔2008〕59号)和《省政府办公厅关于加强规范性文件管理的通知》(鄂政办发〔2008〕8...

    12年前   
    921    0

    行政规范性文件管理规定

    行政规范性文件管理规定第一条为加强行政规范性文件管理,维护法制统一,根据有关法律、法规,结合本市实际,制定本规定。第二条本规定适用于本市行政规范性文件的起草、审查、公布、备案和解释。第三条本规...

    2年前   
    751    0

    规范性文件转送函(一)

    规范性文件转送函(一)  ____________[ ]号 ________________(接受转送机关):   ______(申请人)不服______________________(被申...

    10年前   
    806    0

    参加国培研修日志和感悟

    参加国培研修日志和感悟  教师培训日志1   xx-11-11    星期四  晴  今天是我们在学院的第一天培训,感觉受益匪浅。虽然课上时间紧,任务重,但是我觉得很快乐。  老师为我们讲了开...

    11年前   
    513    0

    为什么要写日志和怎么写

    为什么要写日志和怎么写为什么要写日志和怎么写志就是史,写史的目的是记得失功过,明兴衰之理。日志就是个人的史,记录发展,总结规律,把握自己的兴衰。国史有本纪、世家和列传,日志有计划、问题和学习。...

    11年前   
    530    0

    关于废止和修改部分招标投标规章和规范性文件的决定

      关于废止和修改部分招标投标规章和规范性文件的决定 为落实《国务院办公厅转发发展改革委法制办监察部关于做好招标投标法实施条例贯彻实施工作意见的通知》(国办发[2012]21号)关于全面清...

    10年前   
    7816    0

    华彩9001程序文件-3级文件-公司各部门岗位规范-员工岗位规范(单据输入员)

     宁波华彩电器公司文件发布 2006-12-31实施 2007-01-01修改 2006-12-31文件名称:员工岗位规范(单据输入员)编 制:文件编号:QB/HC3001-59 ...

    4周前   
    79    0

    华彩9001程序文件-3级文件-公司各部门岗位规范-恒立分厂岗位规范

     宁波华彩电器公司文件发布 2006-12-31实施 2007-01-01修改 2006-12-31文件名称:员工岗位规范(厂长助理)编 制:文件编号:QB/HC3001-01 ...

    4周前   
    70    0

    门诊日志管理制度(规范)

    门诊日志管理制度1、门诊部各科室要建立门诊日志,详细登记接诊病人。2、门诊日志要按照日志规定的项目填写详细、齐全,内容要保证真实可靠。3、对门诊日志上登记需上报的传染病要做出明显标志,疫情上报...

    3年前   
    1465    0

    沈阳东东系统集成有限公司质量管理规范文件——文件编号规程

    操作规程R-05001总页数3正文3附件0文件控制部门:项目管理部文件编号规程 批准人刘岩审核人张秀邦拟制人崔戈批准日期1999.5.12生效日期1999.5.12关联文件规程管理规程R-

    12年前   
    552    0

    沈阳东东系统集成有限公司质量管理规范文件——文件管理规程

    业务规程R-05000总页数4正文3附件1文件控制部门:项目管理部文件管理规程 批准人刘岩审核人张秀邦拟制人崔戈批准日期1999.5.12生效日期1999.5.12关联文件审查、批准规程(R-

    8年前   
    454    0

    沈阳东东系统集成有限公司质量管理规范文件——文件保管规程

    操作规程R-05002总页数3正文2附件1文件控制部门:项目管理部文件保管规程 批准人刘岩审核人张秀邦拟制人崔戈批准日期1999.5.12生效日期1999.5.12关联文件沈阳

    11年前   
    446    0

    浙江省用水和用气报装接入服务导则(2019)

    浙江省用水和用气报装接入服务导则(试行)浙江省住房和城乡建设厅2019年12月前 言为全面落实党中央、国务院和省委省政府深化“放管服”改革和优化营商环境部署,纵深推进“最多跑一次”改革,提高...

    4年前   
    1174    0