大数据
-
开启MYSQL慢查询日志,监控有效率问题的SQL
操作步骤 首先使用用户登录linux客户端,执行命令 mysql -u mjb -p, mjb是数据库用户名,系统会提示输入密码,输入密码回车,登录成功 输入命令show variables like 'slow_query_log', 页面会显示是否开启了慢查…
-
hadoop的三大核心组件功能
hadoop的三大组件功能: Common : 工具,基础,为服务 MapReduce: 对海量数据的处理 分布式 思想 &…
-
Cassandra CLI 命令详解
Cassandra Shell命令详解 Login cqlsh 172.20.101.252 -u cassandra -p cassandra Connected to cn-engage-dev at 172.20.101.252:9042. [cqlsh 5.0.1 | Cassandra 3.11.4 | CQL spec 3.4.4 | Native protocol v4] …
-
PHP设计模式:单例模式
应用场景: 在一次http请求中,多个地方使用到了数据库连接,使用单例可以只需要创建一个连接。 一个庞大的类被多次实例化的时候,会浪费巨大的内存空间。使用单例模式可以使多个对象共享内存中存在类的静态空间。 …
-
【MATLAB】画图使用调色板实现自动线条颜色的方法
n=10; %n types of colors in hsv; cc=hsv(n); figure; hold on; for i=1:12 plot(result(1,:), 'color', cc(mod(i,n)+1, :)); %mod(i,n) is to prevent color from exceeding hsv dimensions, +1 because hsv(0) h…
-
生产中Hive静态和动态分区表,该怎样抉择呢?
一.需求 按照不同部门作为分区,导数据到目标表 二.使用静态分区表来完成 1.创建静态分区表: create table emp_static_partition( empno int, ename string, job string, mgr int, hiredate string, sal double, c…
-
zookeeper图文安装
1.下载zookeeper,本次教程使用的版本zookeeper-3.4.5.tar.gz,下载后进行解压操作,通过tar -zxvf zookeeper-3.4.5.tar.gz这个命令来完成解压 2.解压完成后,删除压缩包 3.进入zokkeeper.3.4.5目录,删除不必要文件和目…
-
Hadoop运维记录系列(二十六)
一分钟内部署jupyterlab + pyspark2 + hive,前提是spark2是可以在yarn上正常运行的。 最近甲方打着滚的向乙方要求装 jupyterlab,然后还要用spark2,所以,也是没辙,谁让人家是金主爸爸呢。搁我自己是绝不想在生…
-
高可用与可伸缩架构
分布式业务系统设计的时候,基本的问题有: 1. 高可用(High Availability) 2. 可伸缩(Scalable-扩展的方法论:AKF scale cube) 3. 可扩展(Extensibility) 4. 容错性(弹力设计-Resilience) 5. 高性能(High Performace…
-
Maxwell读取MySQL binlog日志到Kafka
启动MySQL 创建maxwell的数据库和用户 在MySQL中创建一个测试数据库和表 前面三个步骤详见 Maxwell读取MySQL binlog日志通过stdout展示 启动Zookeeper [hadoop@hadoop001 ~]$ cd $ZK_HOME/bin [hadoop@hadoop001 bi…