本周主要科研任务为研究、完善增量式概念生成方法。
该方法的主要思想为人类认知的增量式过程。在当前看来,人脑认识事物为一个震荡收敛过程,当收敛至一个不动点时认为当前对事物认知趋于完善。但随着阅历的增加,原有的概念体系必然将不断修正。原有的知识不断更新,新的领域不断拓展。
从结构上,最为简单的增长莫过于原始概念不做修正。这种情况一般出现于已经认知的概念领域。比如,IPhone 8并没有让我对iphone这个概念发生任何概念,无非是在iphone这个概念的外延中加入了一个iphone8对象而已。
其次,对于原有知识的更新过程一般为伴生的增长过程。该过程主要是对现有概念体系的细化或更新。比如,我原本认为手机的屏幕一般为矩形。但iphone X的发布让我知道原来手机屏幕还可以做出刘海。虽然“手机屏幕”这个概念仍然存在,但其内涵中对于其形状的要求已经发生变化。这就是对概念的更新过程。而“苹果式的全面屏”这样的概念对我原有全面屏概念的细化。
最为复杂的情况,当属新领域的拓展。从结构角度看,新领域意味着新的顶层出现。虽然这个对象可能和现有的知识或多或少建立联系,但其终归是新的知识。比如,我看GAN。GAN对于我来说是一个新出现的顶层对象,但当我了解其属性后,发现其与深度学习、概念学习思想基本同源。这就意味着在属性拓扑中这三者是包容关系。所以,我学习GAN时,原来对于深度学习、概念学习的知识会被类比过来使用。也就是说,我是将我原来学会的概念复制给了GAN一份,然后再通过GAN约束,看看哪些需要调整,哪些需要更新。这就是这次对新增顶层对象的处理思路。这个思路其实和迁移学习已经有了相似之处,下一步想必可以发展一下。
总之,新的增量式算法基本思想就是这样。但在设计过程中仍走了很多弯路。好在前面有曹海兰为我奠定的基础,这次有李和合不断的指出问题,让我得以逐渐修改并暂时得以无bug设计(这个过程不就是GAN的对抗式生成吗?同时也是概念学习的趋于不动点?)。本周虽然效率不高,总算还有收获,聊以安慰。
本方向下一步计划:
1. 将算法形式化,并进行相应证明,完成论文写作。
2. 连续数据的层次化表示仍要继续考虑。