捡垃圾之E3 V5和E5 V4 C236和C612

五一到了,有时间折腾下自己需要的设备了。 一般大部分人组装NAS的时候都会考虑各种因素,功耗,性价比啥的。我考虑的因素就很少,如果需要128G

2023年经济学人音频链接

2023年经济学人音频官网地址格式如下: http://audiocdn.economist.com/sites/default/files/AudioArchive/2023/20230107/Issue_9328_20230107_The_Economist_Full_edition.zip 通过观察,可以构造出全年的音频地址URL,Python代码如下: 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17

2022年经济学人音频链接

2022年经济学人音频官网地址格式如下: http://audiocdn.economist.com/sites/default/files/AudioArchive/2022/20220101/Issue_9277_20220101_The_Economist_Full_edition.zip 通过观察,可以构造出全年的音频地址URL,Python代码如下: 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17

Youtube手动下载视频和音频

其实所有的爬虫或者下载工具都是一样的,就是伪装成浏览器下载,多线程就是获取文件大小以后,用206状态码多线程下载最后合并,废话不说上代码 1 2

Spring Boot配置文件路径问题

1 https://docs.spring.io/spring-boot/docs/1.0.1.RELEASE/reference/html/boot-features-external-config.html Spring boot默认的配置文件application.properties可以直接外置,jar在运行时自动读取,读取顺序为: 1.jar包内cl

Debian11安装搜狗输入法

Debian11总算发布了,2024年Centos7停止维护以后估计就是deb系列的天下了。 kernel 一般LTS的内核维护周期为6年,非常适合服务器

Hbase2.0.5编译支持Hadoop3.1.3

1 2 3 4 5 6 7 8 9 10 wget https://archive.apache.org/dist/hbase/2.0.5/hbase-2.0.5-src.tar.gz md5sum hbase-2.0.5-src.tar.gz f15f1f5f2347514112445b4503c499b3 hbase-2.0.5-src.tar.gz tar zxvf hbase-2.0.5-src.tar.gz cd hbase-2.0.5-src mvn clean package -DskipTests assembly:single -Dhadoop.profile=3.0 -Dhadoop-three.version=3.1.3 -Denforcer.fail=false # -Denforcer.fail=false 不加这个会报错 # [ERROR] Failed to execute goal org.apache.maven.plugins:maven-enforcer-plugin:3.0.0-M2:enforce (check-aggregate-license) on project hbase-assembly: Some Enforcer rules have failed. Look above for specific messages explaining why the rule failed. -> [Help 1] # http://www.kailing.pub/article/index/arcid/267.html

Hive3.1.2编译支持Spark3.0.0

1. 下载源码 1 2 3 4 5 6 7 8 9 wget https://downloads.apache.org/hive/hive-3.1.2/apache-hive-3.1.2-src.tar.gz md5sum apache-hive-3.1.2-src.tar.gz d25e11c52ced2eba8eb419548cd38573 apache-hive-3.1.2-src.tar.gz tar zxvf apache-hive-3.1.2-src.tar.gz #or git clone https://github.com/apache/hive.git git checkout rel/release-3.1.2 #or wget https://codeload.github.com/apache/hive/tar.gz/rel/release-3.1.2 2. 修改guava依赖 1 2 3 4 5 6 7 8 #pom.xml #guava 和hadoop 3.1.3的27.0

50道HQL题

1.表格设计 学生表student,字段:学号s_id、姓名s_name、生日s_birth、性别s_sex 课程表course,字段:课程编号

50道SQL题

1.建库 1 create database hql default character set utf8 collate utf8_general_ci; 2.建表 1.学生表 student student(s_id,s_name,s_birth,s_sex) s_id 学生编号,s_name 学生姓名,s_birth 出生年月,s_sex 学生性别 1 2 3 4 5 6 7

AWS&阿里云&腾讯云等内网API地址

AWS url 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 curl http://169.254.169.254/latest/meta-data/ #169.254.169.254 是个什么地址?这是 metadata service 的 IP。这个地

Sqoop被退役

随着Apache Sqoop超过两年没更新,在2021年6月,Apache Sqoop被Apache基金会打入冷宫,退役至Attic。 The Apache Attic The Apache

Centos部署K8S-3节点

0. 节点信息 Hostname CPU RAM IP OS Version master001 4 4G 192.168.8.184 7.9.2009 node001 8 8G 192.168.8.181 7.9.2009 node002 8 8G 192.168.8.182 7.9.2009 1. 安装前准备 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 #禁用selinux sed -i 's\SELINUX=enforcing\SELINUX=disabled\' /etc/selinux/config #禁用s

tee和cat的区别

最近整理了之前的k8s部署文档,为了统一规范,把所有的配置参数用EOF自动生成配置文件,本来用的cat生成的一切顺利,但是那个国内拉取k8s

一些教程官网链接

有问题,查文档,还得看官网啊: C CPP Redis Emacs Nginx Varnish Prometheus Grafana Git Docker K8S Mysql5.7 Python3.7 Golang Ruby Scala JavaSE1.8 Kafka ZK Hadoop Flume Hive Sqoop Hbase_ops Hbase_api Azkaban Flink Spark ELK Hudi

一些常用的下载链接

calibre_dmg calibre_exe dbeaver_zip_win dbeaver_zip_mac dbeaver_zip_linux len_esxi vmware_win vmware_mac vmware_linux firefox jdk tsinghua wiki wikipedia wiktionary

2021年经济学人音频链接含PDF

2021年经济学人音频官网地址格式如下: http://audiocdn.economist.com/sites/default/files/AudioArchive/2021/20210102/Issue_9226_20210102_The_Economist_Full_edition.zip http://audiocdn.economist.com/sites/default/files/AudioArchive/2021/20210109/Issue_9227_20210109_The_Economist_Full_edition.zip 通过观察,可以构造出全年的音频地址URL,Python代码如下: 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16

Pulsar与Kafka

Pulsar与Kafka 在本系列的Pulsar和Kafka比较文章中,我将引导您完成我认为重要的几个领域,并且对于人们选择强大,高可用性,高

WSL2 Systemd问题

0.阅读须知 阅读和操作本篇文章需要掌握或者熟悉一下技能树: 01.已经可以独立安装wsl2子系统; 02.知道一些简单的Linux操作指令,Vi

Docker搜索指定名称的容器信息

1.先上脚本 1 2 3 4 5 6 7 8 #docker-search #其中的json_reformat命令需要安装yajl #!/bin/bash repo_url=https://registry.hub.docker.com/v1/repositories image_name=$1 curl -s ${repo_url}/${image_name}/tags | json_reformat | grep name | awk '{print $2}' | sed -e 's/"//g' BTW: 2.Cen

JDK历史版本下载

0.众所周知,Oracle JDK1.8版本从212版本变更了协议,使用新版本的商用可能要吃ORACLE法务部官司了,特留存了官网老版本的下载

Linux国内加速源

1.大学类 1.清华大学 https://mirrors.tuna.tsinghua.edu.cn/ 2.中科大 http://mirrors.ustc.edu.cn/ 2.商业公司类 1.阿里云(这玩意最近总是崩溃,不过阿里内网却很稳,奇葩) https://mirrors.aliyun.com 2.腾讯云 https://mirrors.cloud.tencent.com/ 3.华为云 https://mirrors.huaweicloud.com/ 4.网

Linux安装MySQL社区版

1.社区版本下载链接 最新版本:默认应该是8.0版本了,其实右边有个Looking for previous GA versions?可以切换至5.7 https://dev.mysql.com/downloads/mysql/ 8.0: https://dev.mysql.com/downloads/mysql/8.0.html 5.7: https://dev.mysql.com/downloads/mysql/5.7.html 归档版本:

Linux编译安装Python3

1.Ubuntu or Debian apt install libffi-dev libssl-dev libncurses5-dev ./configure --prefix=/usr/local/python3 --enable-optimizations make && make install 2.RHEL or Centos yum install libffi-devel.x86_64 openssl-devel bzip2-devel expat-devel gdbm-devel readline-devel sqlite-devel gcc-c++ ./configure --prefix=/usr/local/python3 --enable-optimizations make && make install 3.Python Pip配置 mkdir -pv ~/.pip/ 1 2 3 4 # ~/.pip/pip.conf [global] trusted-host=mirrors.aliyun.com index-url=https://mirrors.aliyun.com/pypi/simple/ 4. 有了Conda之后还是Conda

Openwrt opkg常用命令

0.部署 1 2 3 4 5 6 7 8 9 10 11 12 wget https://downloads.openwrt.org/releases/21.02.0/targets/x86/64/openwrt-21.02.0-x86-64-generic-ext4-combined.img.gz #gzip压缩保留源文件的方法: #gzip –c filename > filename.gz gzip -c openwrt-21.02.0-x86-64-generic-ext4-combined.img > openwrt-21.02.0-x86-64-generic-ext4-combined.img.gz.2 #gzip解压缩保留源文件的方法: #gzip –c filename.gz > filename #gzip -d

Flink 1.0到1.9特性

Flink 1.0到1.9特性 Flink API 历史变迁 在 Flink 1.0.0 时期,加入了 State API,即 ValueState、ReducingState、ListState 等等。St

Hadoop 3 和2主要区别

Hadoop 3 和2主要区别 最低Java版本从7升级到8 引入纠删码(Erasure Coding) 主要解决数据量大到一定程度磁盘空间存储能力不足的问题. HDFS中的默

ES

Elasticsearch 是一种NoSQL数据库(非关系型数据库),和常规的关系型数据库(比如:MySQL,Oralce等)的基本概念,对应关系如下: Elastic

Oasis3

和其他所有的计算框架一样,Flink也有一些基础的开发步骤以及基础,核心的API,从开发步骤的角度来讲,主要分为四大部分 1.Environment 2.Source

Hive

1.Hive数据类型 1.1 基本数据类型 Hive数据类型 Java数据类型 长度 例子 TINYINT byte 1byte有符号整数 20 SMALINT short 2byte有符号整数 20 INT int 4byte

环境部署

ref 持续更新中,始于2019年9月19日,目前已经更新至hadoop3系列 0.集群规划 HostName IP CPU RAM DISK OS ENV DIR hadoop161 192.168.8.161 4 8G 40G CentOS 7.6 /opt/module/ hadoop162 192.168.8.162 4 8G 40G CentOS 7.6 /opt/module/ hadoop163 192.168.8.163 4 8G

Arm CPU Model

随着AWS使用ARM平台的云主机的逐渐增多,连华为都研发了鲲鹏Arm服务器处理器了。自动armv8进入64位以后,越来越多的跨平台的应用(J

Golang

1. 初识Go语言 1.1 Go语言介绍 1.1.1 Go语言是什么 2009年11月10日,Go语言正式成为开源编程语言家庭的一员。 Go语言(或称Golang)是云

弃用Ntp改用Chrony

最近UDP反射攻击太多了,DNS上已经做了防火墙策略,效果还不错,但是NTP就比较尴尬了,内网强制同步统一主机风险太大了,开启NTPD又有可

MySQL半同步

MySQL 5.7半同步复制技术 一、复制架构衍生史 在谈这个特性之前,我们先来看看MySQL的复制架构衍生史。 在2000年,MySQL 3.23.15版本

Linux中的Buffers&Cache

1.理论 Linux free 输出的内存使用里面输出的信息来自:/proc/meminfo 先上官方解释: man free 1 2 3 4 5 #buffers Memory used by kernel buffers (Buffers in /proc/meminfo) #cache Memory used by the page cache and slabs (Cached and

常见的DC接口

最近NAS挂了,整了一个All In One的机器,E3 1265L 45W的TDP,16G ddr3 内存,512G Intel S3500 MLC固态,更换了DC-ATX电源模块,上了被