基本信息
源码名称:基于SARSA的迷宫问题
源码大小:6.60KB
文件格式:.rar
开发语言:MATLAB
更新时间:2021-03-28
   友情提示:(无需注册或充值,赞助后即可获取资源下载链接)

     嘿,亲!知识可是无价之宝呢,但咱这精心整理的资料也耗费了不少心血呀。小小地破费一下,绝对物超所值哦!如有下载和支付问题,请联系我们QQ(微信同号):813200300

本次赞助数额为: 2 元 
   源码介绍

基于SARSA强化学习解决的经典迷宫问题

%创建网格世界环境
%创建基础的网格世界环境
env=rlPredefinedEnv("BasicGridWorld");
%要指定代理的初始状态始终为[2,1],需指定一个重置函数以返回代理的初始状态。 每次训练和模拟开始时都会调用此功能。 
%状态从位置[1,1]开始编号,并向下计数该列。 因此,创建一个将初始状态设置为2的匿名函数句柄。
env.ResetFcn = @()2;
%修复随机生成器种子以提高可重复性。
rng(0)
%创建Q-Learning代理人
%要创建Q学习代理,首先使用网格世界环境中的观察和操作规范创建Q表。将表示的学习率设置为1。
qTable = rlTable(getObservationInfo(env),getActionInfo(env));
tableRep = rlRepresentation(qTable);
tableRep.Options.LearnRate = 1;
%接下来,使用此表表示形式创建Q-Learning代理,配置epsilon-greedy探索。有关创建Q学习代理的更多信息,请参见rlQAgent和rlQAgentOptions。
agentOpts=rlQAgentOptions;
agentOpts.EpsilonGreedyExploration.Epsilon=.04;
qAgent=rlQAgent(tableRep,agentOpts);
%%%训练Q-Learning代理人
%要培训代理,请首先指定训练选项。对于此示例,使用以下选项:
%训练最多200个剧集,每个剧集最多持续50个时间步。
%当业务代表在30个连续情节中获得的平均累积奖励大于10时,请停止训练。
%有关更多信息,请参见rlTrainingOptions。
trainOpts=rlTrainingOptions;
trainOpts.MaxStepsPerEpisode=50;
trainOpts.MaxEpisodes=200;
trainOpts.StopTrainingCriteria= "AverageReward";
trainOpts.StopTrainingValue=11;
trainOpts.ScoreAveragingWindowLength=30;
%使用train函数训练Q-Learning代理。这可能需要几分钟才能完成。为了节省运行本示例的时间,请通过将doTraining设置为false来加载预训练的代理。 
%要自己培训代理,请将doTraining设置为true。
doTraining=true;
if doTraining
    % Train the agent.
    trainingStats=train(qAgent,env,trainOpts);
else
    % Load pretrained agent for the example.
    load('basicGWQAgent.mat','qAgent')
end
%可以通过Episode Manager窗口观看训练的进程,具体看下图。
%%%评估Q-Learning的结果
%要验证训练结果,请在训练环境中模拟。
%在运行模拟之前,请对环境进行可视化并配置可视化以维护对代理状态的跟踪。

plot(env)
figure(1)
env.Model.Viewer.ShowTrace=true;
env.Model.Viewer.clearTrace;
%在环境中模拟代理人可以使用sim函数
sim(qAgent,env)
%模拟结果见下图
%%%创建和训练SARSA代理人
%使用与Q-Learning代理相同的Q table表示和epsilon-greedy配置来创建SARSA代理。 有关创建SARSA代理的更多信息,请参见rlSARSAAgent和rlSARSAAgentOptions。
agentOpts = rlSARSAAgentOptions;
agentOpts.EpsilonGreedyExploration.Epsilon = 0.04;
sarsaAgent=rlSARSAAgent(tableRep,agentOpts);
%使用train函数训练SARSA代理。这可能需要几分钟才能完成.为了节省运行本示例的时间,请通过将doTraining设置为false来加载预训练的代理。 
%要自己培训代理,请将doTraining设置为true。
doTraining = false;
if doTraining
    % Train the agent.
    trainingStats=train(sarsaAgent,env,trainOpts);
else
    % Load pretrained agent for the example.
    load('basicGWSARSAAgent.mat','sarsaAgent')
end
%%%评估SARSA的训练结果

plot(env)
figure(2);
env.Model.Viewer.ShowTrace = true;
env.Model.Viewer.clearTrace;
sim(sarsaAgent,env)
%%%END!

【文件目录】

网格迷宫问题_MatLab程序包

├── Q_learning
│   ├── WGW_Qlearning.asv
│   ├── WGW_Qlearning.m
│   ├── movement.m
│   └── tcegreedy.m
├── Sarsa
│   ├── WGW_Sarsa.m
│   ├── movement.m
│   └── tcegreedy.m
└── Sarsa_Lambda
    ├── WGW_SarsaLambda.m
    ├── movement.m
    └── tcegreedy.m

3 directories, 10 files