AI拼图

我如何教特工在2048年建造2048笼子

AI组装细胞2048
AI组装细胞2048

你好!我的名字叫Rinat Maksutov,我在埃森哲俄罗斯办事处技术部门的智能工程服务部门工作,负责定制开发项目。在Axencher的漫长职业生涯中,我尝试了许多不同的领域:移动开发,前端,后端,甚至使用mashlern进行数据科学。但是,我的故事不是工作,而是业余爱好。我非常喜欢在自己的宠物项目中学习和探索新领域。今天,我将告诉您其中的一个-我是如何教强化学习(RL)代理玩著名的拼图“ 2048”的。本文故意不包含代码,数学,最新方法和该领域的最新发现,因此熟悉RL的人们不会为自己发现任何新东西。本文是一个有关普通大众的故事我如何为自己设定一个不寻常的目标并实现了目标。

. , , Nanodegree Udacity (Nanodegree - ). Deep Learning Nanodegree , . 

RL, : , , - , , , - . , .

, RL , . , , , - , ( , ). 

, - , ( , RL), . - 2048 ( : https://play2048.co/). , (, , , ), , . , ( 0.9) ( 0.1). , , .

, 2048 . , 4096, 8192, . - 131 072, 2^17: 

资料来源:维基百科
: Wikipedia

. , , . , . , , , (, ), , - . , “” , , .

  1. - , “” , , , .

  2. ( , ) . , “” , . 

, , , . 

Reinforcement learning

, RL, - . - , . (, ), , . , , , , . , .

资料来源:https://medium.com/@dgquintero02/how-to-explain-machine-learning-to-your-family-77a3bac3593a
: https://medium.com/@dgquintero02/how-to-explain-machine-learning-to-your-family-77a3bac3593a

, , , .  , , , , . “”. , , . - “” - , . - “”, , , - ( discourage) . ( , ) .

Udacity . , , . : , , , . , , . , , . - - - , .

: AlphaGo, StarCraft . , , - , . , , . , , , . 

, . , , . , . 

, , : 1) , 2) , 3) . , , , - , . , , : , , . 

. - ( , ) , . - -, , , , StarCraft . , , , . , , , . , . , , - . , . , . , .

与博罗米尔的另一个模因

2048 ( - , 2048 - ) - , , , , . 

: , Deep Q-network Udacity, , . . 

, 3 ( , ):

  • One-hot encoded (16 * 18 )

  • “ ”

  • Log2

  • 4 4

  • log2

  • log2

  • 10 , 1024, ε: 0.05, ε: 0.9999, 

  • 1, 3, 5, 20

  • ε ( ) 1.0 0.01

  • 100 000

  • ( )

  • 50 000 200 000

  • , , , , ..

()

  • “ ”: N , ,

  • “ ”: 3 ,

  • 2

  • 5-: 288-31024-4, ReLU Adam optimizer

  • 2, 4

  • 256, 512

  • learning rate

- , , - , - . .

, - . , .

, . - . “” , . , , 44, . fully-connected , , 116:

. , 512. , . , : 0 . , : , . 

- . , . , , - . , , , , , . , , , . 

. : , log2 . , , :

, . 512, 1024. . , . 

- , , . , . :

, a+a = b, b+b=c .., , a, b . (“+” - , “”). ? , , . , one-hot encoded . , 18, , , , . - . , , , , .

. , , , , . , . - . 

, , Space Invaders. Google .

太空侵略者。
Space Invaders.

, , “ ”. (“”), (“”) .

2048 . . , 2 , . , … . . , , . , , , 2 4. , , [ +  2 4]. , , , . - . 

-. , . , : , , - . , , : , . , , . 

, . , , . , , , . , . , , - . , , . 

, “” - . , , , . , , . . - . 1.0 0.1. , , , . , , , . - “” , . 

RL , , . , - , - , . , ( ) . , . , , . , , , , . , , - , “” - .

每个游戏中选定移动方向的份额分配。
.

, : , “” - .

, . , . , , , , , . , . - - , - , , , . , - , . , , . , , . , “” ( - - , , , ). , “” , .

WOW信号
The WOW signal

. - - 2048.

, 2048 60 . , , . , , 1024. , 1024 , - 30 1024. , “” 2048, , , , , , - 4096.

, , . 20- , 2048 ( 16:40).

( !), . , 2048 - . , - GitHub ! , . !

PS: , back-end Python Java, front-end React. , --. , , proof-of-concept . , , !




All Articles