开源

  • 【总结】Hadoop中的Combiner实践

    Combiner作用是合并Mapper的输出,Combiner的输出作为Reducer的输入,这样可以减少map任务和reducer任务之间的数据传输。 1、在Job中设置Combiner和不设置Combiner,观察Reducer输入情况 使用如下代码设置Combiner …

    大数据 2021年11月4日
  • 如何用MQTT协议实现消息的订阅接收?

    MQTT协议因低延迟、效率高在工业物联网领域使用的频率特别高。前文介绍了如何用代码发送MQTT消息,本文在前文的基础上实现MQTT消息的订阅接收。操作步骤: 引入相关的依赖 <dependency>    <gro…

    大数据 2021年11月4日
  • Web安全测试二步走

    Web安全测试也应该遵循尽早测试的原则,在进行功能测试的时候(就应该执行下面的测试Checklist安全测试场景),然后在功能测试完成之后、性能测试之前进行扫描测试,可以用工具AppScan,Hp Webinspect,AWS等漏洞扫描…

    大数据 2021年11月4日
  • 使用java+TestNG进行接口回归测试

    【技术沙龙002期】数据中台:宜信敏捷数据中台建设实践|宜信技术沙龙 将于5月23日晚8点线上直播,点击报名 TestNG是一个开源自动化测试框架,“NG”表示下一代(Next Generation的首字母)。 TestNG类似于JUnit(特别是J…

    大数据 2021年11月4日
  • 大数据采集工具flume各种采集方案案例

    以下是整理flume的各种采集方式 代码直接用 一、source类型是netcata1.sources = r1a1.sinks = k1a1.channels = c1a1.sources.r1.type = netcata1.sources.r1.bind = linux1a1.sources.r1.port = 666a1.sinks.k1.ty…

    大数据 2021年11月4日
  • invalid LOC header (bad signature)-Maven异常

    异常信息: 错误: 读取D:/dev-tool/maven-repository/org/springframework/boot/spring-boot/1.4.2.RELEASE/spring-boot-1.4.2.RELEASE.jar时出错; invalid LOC header (bad signature) 异常原因: 该包没有被完整…

    大数据 2021年11月4日
  • 应用名定义规范

    对于应用名定义,要设定规范1,应用名必须以大小写英文字母以及下划线组合2,应用名长度不超过40个字符,尽量简单易懂3,用英语全部用英语表达,拼音全部用拼音,不要用英语+拼音的形势

    大数据 2021年11月4日
  • greenplum 集群安装配置(生产环境)

    集群系统初始化信息: https://blog.51cto.com/michaelkang/2167195 本文对敏感信息进行了替换!!!! 下载软件包: cd /workspace/gpdb/ wget dl.#kjh#.com/greenplum-db-5.10.2-rhel7-x86_64.rpm RPM方式, 默认…

    大数据 2021年11月4日
  • vs2010 x64 调试时不能修改提示在调试器已附加到正在运行的进程时不允许进行更改

    解决方案:鼠标右击web工程 --选择属性--Web  在web窗体下 找到‘服务器’--‘启用编辑并继续’ 选上之后再进行调试就OK!

    大数据 2021年11月4日
  • Yarn架构设计详解

    1.Yarn基本服务组件 Yarn是一种新的 Hadoop资源管理器,它是一个通用资源管理系统,可为上层应用提供统一的资源管理和调度,它的引入为集群在利用率、资源统一管理和数据共享等方面带来了巨大好处。 ResourceManage…

    大数据 2021年11月4日