姓名：王兆伟
-
ML in PL/SE
- A Survey of Machine Learning for Big Code and Naturalness
- code2vec: Learning Distributed Representations of Code
- Maybe Deep Neural Networks are the Best Choice for Modeling Source Code
-
Code Search Related
- How To Create Natural Language Semantic Search For Arbitrary Objects With Deep Learning
- Deep API Learning
- Deep Code Search
- Aroma: Code Recommendation via Structural Code Search
- When Deep Learning Met Code Search
As a consequence, programming languages are designed top-down by a few designers for many users. Natural languages, in contrast, emerge, bottom up, “through social dynamics”
如何理解编程语言是自顶向下的，而自然语言是自底向上的？
1.x=7和x=5这样的赋值语句，它们在语义上应该是相等的。按照文中的path-context,它们两个的值应该是：
(x, Name↑AssignOperator↓IntegerExpr, 7)
(x, Name↑AssignOperator↓IntegerExpr, 5)
但是x为5或者7对语义是无影响的，它本身都是对变量进行赋值，那么为什么不是直接将中间的path作为网络的输入而是将终结符和path一起输入给网络呢？
1.这篇文章最核心的是将原本以token为单位的网络修改为以subword units为单位的网络，以此来解决OOV的问题。我认为，这里之所以将token分割为subword units的效果比原来更好了，是因为代码中的identifier一般是多个英文的组合，比如getValue, setTime。通过subword units使得getValue和setTime被分割为get和Value，set和Time，避免了OOV的现象。在该论文中使用字节对编码的方法获得subword units，但是我觉得其实并没有必要。因为我们完全可以使用英文分词算法对数据集进行分割，来得到subword units。从这一角度来看，使用字节对编码似乎是不必要的（且是费时的），老师有什么看法？
1.在该文的part 1中，为了去除代码中的注释，使用了python的包，先将代码转化为AST，再将AST转化为code，为什么要使用这种相当复杂且耗时的方法，而不是用最brute-force的方法来实现？
1.DeepAPI针对的是java这种强类型的语言进行训练的，而对于python，js这些弱类型的语言，从原理上讲，DeepAPI并不适用，是否有某种解决方案来解决弱类型语言的问题？
2.该文章的训练数据是代码+注释的第一句，我认为取注释的第一句太粗糙了，因为注释的第一句可能并不是代码的语义概括，能否对注释进行某种“缩写”操作，来对数据进行预处理呢？
1.CoNN中考虑方法名、API调用序列和token集合三部分，这里没有使用token的序列，会产生一定的信息的丢失，为什么丢失的信息并没有对结果产生影响？
1.Aroma会将输入的代码映射到向量空间，然后寻找语义库中的相似代码，我觉得这个设计很容易导致检索误差。比如说在语义库中有一段代码是进行a/b的操作（记为代码A），那么在这之前应该有检测b是否为0的代码B，在库中可能有的数据只有代码A，有的数据是代码BA（尽管BA是推荐的写法，但是也不能保证数据中所有代码都是BA），那么当用户输入A时而忘记写代码B时，此时代码的向量空间中距离最近的应该是类似A的代码而不是类似BA的代码，那么怎么能做到提示用户忘记写B了呢？
1.在UNIF方法中，对于code input使用了attention矩阵ac处理embedding，但是不对query input使用attention矩阵处理，我认为这是因为code input本身的冗余量太多了，要使用attention处理embedding去掉冗余信息，而query input的冗余量相对可以忽略。那么，在NCS方法中为什么对code input使用TFIDF处理，而不对query input进行TFIDF处理呢？
2.文中介绍的模型全部使用了cos距离作为相似度的测量标准，相比于其它的相似度表示方法（如欧式距离），cos距离的优势在哪里呢？
JavaScript不像python一样简洁，反而是非常冗杂的，拿到一份新的JavaScript代码后，很容易会发现它充满了复杂的DOM操作以及重复功能的代码。对于一个要接手JavaScript项目的人来说，读懂这些复杂的函数是非常令人头疼的，因此他们需要一个能生成详细且正确的JavaScript代码注释的工具。
寻找形如(JavaScript代码块, 详细且准确的注释)的数据构成数据集，构建一个生成JavaScript代码注释的网络进行训练
用户能够根据生成的注释很快的理解一个项目的工作原理
目前已经有一些工具，可以帮助用户生成代码注释，但是它们背后的模型不是专门针对js进行注释生成的，而是对各种语言普适的模型，这对于js特有的语言特性是一种忽略。我们会设计js专有的模型进行注释生成，比如生成更准确的注释，生成更合适的“粒度”的注释，来帮助用户理解复杂的js代码。
在学校：将工具设计为VS Code插件，并在清华大学的前端/软件工程课程上进行推广，如果效果良好的话，可以推荐给其它高校的课程老师使用，如果我们的工具确实很棒的话，他们将会推荐给自己的学生。
在公司：首先针对一些小型公司进行试用试点，进行一定的改进，并收获一定的用户基础，然后再推广到大公司。
使用作者提供的docker。
使用官网教程，安装docker再windows上的版本
作者提供了cpu与gpu两种版本，考虑到gpu版本需要安装cuda，较为麻烦，我选择安装cpu版本。
docker pull hamelsmu/ml-cpu
执行下面的指令启动docker
docker run -it -p 11086:11086 hamelsmu/ml-cpu bash
再下载源代码
git clone https://github.com/hamelsmu/code_search.git
在bash中启动jupyter
jupyter notebook --ip 0.0.0.0 --port 11086 --allow-root
这时可以在本机的浏览器中输入ip与端口进行访问，进入之后发现我们的代码已经再jupyter中了。
首先找到第三个代码块中写的链接，手动下载一部分数据，然后再将其缩小，然后上传到jupyter中。
对代码进行修改，使其不再从googlecloud下载数据而是读入我们自己的数据。将cpu-core改为8
df = pd.concat([pd.read_csv(f'data.csv')])创建目录data，运行代码，发现运行成功，再data目录下创建了很多数据文件。
- 运行后发现缺少tensorflow与annoy两个包（怀疑docker装的是不是tensorflow-gpu），使用pip安装这两个包
- 修改第12个代码块中的batch_size为100，epochs为1，加快速度，节省内存（毕竟数据很少）
- 运行代码，成功结束
- 缺少在data目录下的lang_model与lang_model_emb目录，先创建
- 再次运行，还是找不到文件，发现创建的文件名称与读入的文件名称不一致，创建的文件名称后面带_v2而读入的没有，修改代码中读入的文件名
- 再次运行，成功结束
- 将batch_size改为100，epoch改为1
- 运行代码，成功结束
直接运行代码即可。