framework of ML/DL

1. framework: keras, xgboost…

2. hyperparameters: tune

3. rationale: 多层感知机、卷积神经网络、自编码器…

将原理使用框架实现出来,并找到尽可能优秀的参数。

problems of saving webpage

保存网页的时候,会有各种不如意的地方,找不到令人满意的工具。现在记录下来各种问题,以后有机会自己开发一款趁手好用、小巧的网页转pdf的工具。

1. 保存的网页会被自动切成好几个小块,切的地方会让后续的阅读很困扰,比如从图片中间切,从一个重要的段落中间切。

2. 保存的网页字体很难看

3. 滚动截屏速度很慢

4. chrome, devtools, screenshot, 保存的图片分辨率较低

git usage

1. 提交

git add .

git commit -m “your comments about this submission”

git push origin master

2. 同时开发,解决冲突

背景:
实际工作中,一定会出现多个人共同开发一个软件,但是大家负责不同的功能。基于git,大家可以各自创建一个分支,完成自己的分支工作后,再merge回去。

问题:
如果同事A修改了某个文件F的格式,但是同事B依赖该文件原来的格式。A先提交成功了,B再提交,B就无法运行成功了,因为F的格式变了。任何一个人,merge之前应该先做测试,证明merge后能够正常运行,才能真正merge。又或者,大家应该有一个约定,有的文件是不能动的。

3. git clone

4. windows下git对路径名长度存在限制,即使win10系统本身解除了这个限制。
git config –global core.longpaths true
但是没用,仍然报错:fatal: ‘$GIT_DIR’ too big

5. foobar

plink

1. plink常用格式:
https://www.cog-genomics.org/plink/1.9/formats#ped
ped, map
bed, bim, fam

2. plink gwas

3. plink homepage:
1.07: http://zzz.bwh.harvard.edu/plink/index.shtml
1.9 & 2.0: https://www.cog-genomics.org/plink/

#snp2bedbimfam
plink –23file JPT-NA19001.snp JPT ID002 –out JPT-NA19001

#去除有问题的snp
plink –bfile JPT-NA19001 –exclude merge.missnp –make-bed –out new

#merge单个文件
plink –bfile source1 –bmerge source2_trial –make-bed –out merged_trial

#merge多个文件
plink –merge-list merge_list –make-bed –out merge

conda usage & debug

  1. 使用conda install安装时,如果下载到一半,断网中断了安装;下次再安装就会core dump;
    解决办法:删除 $(which conda)/../../pkgs 下面的中断的时候正在下载的包即可。
  2. foobar

advanced shell programming

  1. 使用$(command),将command的返回值作为另一个命令的组成部分
    grep $(head -n1 a.txt) a.txt
  2. daily & sophisticated shell built-in commands
  3. sed [stream editor]
  4. $’string’

     
  5. set -x
  6. I/O重定向
  7. 在双引号内使用单引号,不需要加反斜线;使用双引号需要加反斜线;
  8. eval
  9. xargs
  10. awk [Aho Weinberger Kernighan]
  11. truncate last line
  12. 12

centos 8 管理

1. 清除无用内核及其对应的modules等文件

2. 修改grub参数

3. 添加仓库

1. yum config-manager –set-enabled PowerTools
2. yum install epel-release

4. 安装X11

尝试过的方案:
1. 借由安装xclock,系统会自动安装其所依赖的X11相关组件
yum install xclock
2. yum dep 安装R依赖
3. 手动编译R包:
3.1 给定路径:

./configure –prefix=/home/nott/00.software/00.common/R-3.6.1/ –x-libraries=/usr/lib64 –x-includes=/usr/include/
3.2 去掉conda
4. 暂时方法:使用CairoX11()

4. foobar