<p>Hi <a href="https://github.com/vasanthkalingeri" class="user-mention">@vasanthkalingeri</a> , I was working on this in sync with the comments here from the very beginning. The only reason I didn't post here was that all the problems which I had were already mentioned and solved by Marcus.</p>

<p>Anyways, I too had the same doubt regarding RMSProp. I had asked <a href="https://github.com/zoq" class="user-mention">@zoq</a> about the same on IRC. He said that according to him RMSProp would work better than the optimization which is given in the paper. So I guess doubting on optimization wouldn't lead us anywhere.</p>

<p>I think the problem lies here. If you read the paper, there is a line which states that an input node x0 in addition to the input activations which should always be 1. also one node in the hidden layer is required to be active throughout. This is my thought after going through the paper again.</p>

<p>Anyways, let's collaborate on this and get this thing fixed. Tell me about your time restrictions so we could plan accordingly. what say?</p>

<p style="font-size:small;-webkit-text-size-adjust:none;color:#666;">&mdash;<br />You are receiving this because you are subscribed to this thread.<br />Reply to this email directly or <a href="https://github.com/mlpack/mlpack/issues/414#issuecomment-210285098">view it on GitHub</a><img alt="" height="1" src="https://github.com/notifications/beacon/AJ4bFNi_pkh00bbvepCkgHypQPFeSUO3ks5p3xbrgaJpZM4DnsTV.gif" width="1" /></p>
<div itemscope itemtype="http://schema.org/EmailMessage">
<div itemprop="action" itemscope itemtype="http://schema.org/ViewAction">
  <link itemprop="url" href="https://github.com/mlpack/mlpack/issues/414#issuecomment-210285098"></link>
  <meta itemprop="name" content="View Issue"></meta>
</div>
<meta itemprop="description" content="View this Issue on GitHub"></meta>
</div>