查看当前安装的linux内核版本号
1 | dpkg --get-selections |grep linux-image |
查看当前使用的内核版本号
1 | uname -a |
卸载不需要的内核
1 | sudo apt-get purge linux-image-3.5.0-27-generic |
最后使用df命令查看boot的占用情况
1 | df |
查看当前安装的linux内核版本号
1 | dpkg --get-selections |grep linux-image |
查看当前使用的内核版本号
1 | uname -a |
卸载不需要的内核
1 | sudo apt-get purge linux-image-3.5.0-27-generic |
最后使用df命令查看boot的占用情况
1 | df |
官方文档:https://pandas.pydata.org/docs/reference/index.html
1.loc属性,通过标签或布尔数组访问一组行和列。pandas.DataFrame.loc
1 | >>> df = pd.DataFrame([[1, 2], [4, 5], [7, 8]], |
获取单个label,返回是一个series
1 | >>> df.loc['viper'] |
获取List of labels。注意使用 [[]]
返回的是一个 DataFrame
1 | >>> df.loc[['viper', 'sidewinder']] |
通过行标签和列标签来获得具体值
1 | >>> df.loc['cobra', 'shield'] |
对行进行切片,对列进行单标签切片(取得部分行和部分列)
1.决策树的构造
优点:计算复杂度不高,输出结果易于理解,对中间值的缺失不敏感,可以处理不相关特征数据
缺点:可能会产生过度匹配问题
适用数据类型:数值型和标称型
1 | # coding:utf-8 |
1 | #通过是否浮出水面和是否有脚蹼,来划分鱼类和非鱼类 |
hive集群的版本是1.1.0-cdh5.16.2,而datagrip自带的hive driver版本是3.1.1和3.1.2,所以需要自行添加driver
参考:kerberos-2.datagrip(jdbc)连接hive kerberos
add custome JARs,所需要的jar包如下
添加hive URL
1 | jdbc:hive2://master:10000/default;principal=hive/master@HADOOP.COM |
在Advanced的VM options中添加配置
可以使用docker镜像来启动scyllaDB
也可以使用docker镜像来部署scyllaDB集群
1 | docker run --name scylla -p 9042:9042 -p 9160:9160 -p 10000:10000 -p 9180:9180 -v /var/lib/scylla:/var/lib/scylla -d scylladb/scylla |
在cqlsh中可以使用CQL (the Cassandra Query Language) 来对scyllaDB做一些基本操作
1 | sh-4.2# cqlsh |
scylla数据存储于table当中,而table由keyspace分组
名字叫做test
1 | cqlsh> CREATE KEYSPACE IF NOT EXISTS test WITH REPLICATION = {'class': 'SimpleStrategy','replication_factor':1}; |
k-近邻算法(kNN)采用测量不同特征值之间的距离方法进行分类。
优点:精度高、对异常值不敏感、无数据输入假定
缺点:计算复杂度高、空间复杂度高
使用数据范围:数值型和标称型
工作原理:存在一个样本数据集合,也称为训练样本集,并且样本集中每个数据都存在标签,即我们知道样本集中每一数据与所属分类的对应关系。输入没有标签的新数据后,将新数据的每个特征与样本集中数据对应的特征进行比较,然后算法提取样本集中特征最相似数据(最近邻)的分类标签。一般来说,我们只选择样本数据集中前k个最相似的数据,这就是k-近邻算法中的k的出处,通常k是不大于20的整数。然后,选择k个最相似数据中出现次数最多的分类,作为新数据的分类。
kNN.py
1 | # coding:utf-8 |
1.机器学习的主要任务:
一是将实例数据划分到合适的分类中,即分类问题。 而是是回归, 它主要用于预测数值型数据,典型的回归例子:数据拟合曲线。
2.监督学习和无监督学习:
分类和回归属于监督学习,之所以称之为监督学习,是因为这类算法必须直到预测什么,即目标变量的分类信息。
对于无监督学习,此时数据没有类别信息,也不会给定目标值。在无监督学习中,将数据集合分成由类似的对象组成的多个类的过程被成为聚类;将寻找描述数据统计值的过程称之为密度估计。此外,无监督学习还可以减少数据特征的维度,以便我们可以使用二维或者三维图形更加直观地展示数据信息。
3.线性回归和非线性回归
线性回归需要一个线性模型。一个线性的模型意味着模型的每一项要么是一个常数,要么是一个常数和一个预测变量的乘积。一个线性等式等于每一项相加的和。等式:
Response = constant + parameter * predictor + … + parameter * predictor <=> Y = b o + b1X1 + b2X2 + … + bkXk
在统计学中,如果一个回归方程是线性的,那么它的参数必须是线性的。但是可以转换预测变量加上平方,来使得模型产生曲线,比如 Y = b o + b1X1 + b2X12
这时模型仍然是线性的,虽然预测变量带有平方。当然加上log或者反函数也是可以的。
使用beeline连接hive
1 | kinit -kt xxx.keytab xxx |
参考:
1 | https://docs.cloudera.com/runtime/7.2.7/securing-hive/topics/hive_remote_data_access.html |
如果要想直接运行SQL,可以
1 | beeline -u "jdbc:hive2://10.65.13.98:10000/default;principal=hive/_HOST@CLOUDERA.SITE" --silent=true --outputformat=tsv2 --showHeader=false -e "select * from xxx.xxx" |
退出beeline
1 | !quit |
又称单词查找树,Trie树,是一种树形结构,是一种哈希树的变种。
典型应用是用于统计,排序和保存大量的字符串(但不仅限于字符串),所以经常被搜索引擎系统用于文本词频统计。
它的优点是:利用字符串的公共前缀来减少查询时间,最大限度地减少无谓的字符串比较,查询效率比哈希树高。
下面是字典树数据的Java实现代码,字典树中存放的是26个英文字母
1 | package coding_Interview_guide.ch5; |