大数据

  • Giraph源码分析(七)—— 添加消息统计功能

    作者|白松 1、 添加类,把每个超步发送的消息量大小写入Hadoop的Counter中。在org.apache.giraph.counters包下新建GiraphMessages类,来统计消息量。 源代码如下: package org.apache.giraph.counters; import jav…

    大数据 2021年11月15日
  • Spring-batch学习总结(2)—Job,Flow创建及应用,多线程并发,决策器,监听器,参数

    一.Job的创建及其应用1.Job flow的介绍:(1)状态机:例完成step1,是否继续完成step2,step3,我们就需要通过Job flow来控制(2)进行演示:使用next()方法来达到顺序执行step1,step2...的目的,再使用on(),to(),f…

    大数据 2021年11月15日
  • 性能测试-服务器指标

    CPUcpu 利用率和 load average 对性能测试的意义有什么区别?cpu利用率反映的是cpu被使用的情况;load average 反映的是cpu资源的竞争激烈情况,越高越激励;cpu指标主要指的CPU利用率,包括用户态(user)、系统态(s…

    大数据 2021年11月15日
  • spark调优(二):调节并行度

    并行度:其实就是指的是,Spark作业中,各个stage的task数量,也就代表了Spark作业的在各个阶段(stage)的并行度。 如果不调节并行度,导致并行度过低,会怎么样? 假设,现在已经在spark-submit脚本里面,给我们…

    大数据 2021年11月15日
  • Selenium脚本之基本元素常用方法

    页面基本元素: 1.图片上传方法    private static void fileUpload(WebDriver driver, String s, String filepath) {         WebElement file = driver.findElement(By.name(s)); …

    大数据 2021年11月15日
  • 浅析软件测试过程--实现方法对比

    两种不同的实现过程:算法-1,算法-2。   对比不同的算法实现的逻辑和效率差异,体会不同实现过程对测试方法、过程的影响。   软件黑盒测试和白盒测试是相互融合、相互补充的两种方法,完全相同的外…

    大数据 2021年11月15日
  • 【新梦想干货】RobotFramework环境搭建步骤

    RobotFramework作为公司能快速落地实现UI自动化测试的一款框架,同时也非常适合刚入门自动化测试的朋友们去快速学习自动化,笔者计划通过从搭建逐步到完成自动化测试的过程来整体描述它的使用。 Robot Framework环…

    大数据 2021年11月15日
  • 设计模式-前言

    一.前言 二.关于设计模式   2.1 什么是设计模式及设计模式历史   2.2 设计模式分类 三。设计模式详解 四。总结 什么是工厂模式,工厂模式的几种类型 我理解的工厂模式 工厂模式优缺点 前言    …

    大数据 2021年11月15日
  • Flink批处理之读写Mysql

    1、添加Maven坐标 <dependency> <groupId>mysql</groupId> <artifactId>mysql-connector-java</artifactId> <version>5.1.48</version> </dependency> <depend…

    大数据 2021年11月15日
  • hadoop&spark安装(上)

    硬件环境: hddcluster1 10.0.0.197 redhat7 hddcluster2 10.0.0.228 centos7  这台作为master hddcluster3 10.0.0.202 redhat7 hddcluster4 10.0.0.181 centos7 软件环境: 关闭所有防火墙firewall openssh-c…

    大数据 2021年11月15日