<div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex;"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">

<br></blockquote><div class="gmail_quote"><div>Your function always returns inf, so it&#39;s not very surprising that you get a nan after a few iterations. Could happen for example if the code determines a derivative numerically, resulting in inf / inf = nan.<br>


<br>It would be helpful if you had a realistic, self-contained example.<br><font color="#888888"> <br>Raln</font><br></div></div></blockquote><div><br>In scikit-learn, fmin_cobyla is used to optimize some parameters of a Gaussian Process. The objective function returns inf when the parameters are such that the matrix calculations are unstable and NumPy throws a LinAlg exception. What would be a better way to handle this?<br>

<br>My gut feeling is that an optimizer should not pass nan to the objective function, since it cannot possibly be informative. Maybe checking for nan would be inefficient. <br></div></div>