Hi John,<div><br></div><div>It sounds like there might be a misunderstanding here. The error is not indicating that the index has grown to large, it's indicating that you are running a query with many, many results - enough to potentially gobble up all of your memory. Rather than let this happen, Riak Search tries to detect the situation and fails the query rather than crashing. </div>
<div><br></div><div>The intention is that most people will never bump up against the max_results setting. The few who do will have special use cases with especially large queries, and when this happens, it's going to require just a little testing and tuning to find a number that is large enough to handle their queries while still small enough to prevent memory exhaustion. It sounds like you fall into this situation. If you are running on big servers, you can safely bump up the number, the value depends on both your available memory and your object size.</div>
<div><br></div><div>Best,</div><div>Rusty</div><div><br></div><div><br></div><div><br></div><div><div class="gmail_quote">On Thu, Mar 3, 2011 at 6:42 AM, John Axel Eriksson <span dir="ltr"><<a href="mailto:john@insane.se">john@insane.se</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex;"><div style="word-wrap:break-word"><div>Well, I'm in this situation atm. I guess I could go and change the max_results setting but really - this actually</div>
<div>means that I can't search my data and to me, it's more important to be able to search than to get an error when</div><div>my index has grown too large. I understand that there's nothing for this in the solr spec, but getting an error because</div>
<div>I've indexed too much data is kind of unexpected.</div><div><br></div><div>I'm not familiar with the internals but I would've expected the rows parameter to be applied before the max_results limit - not</div>
<div>the other way around. I suspect there's a reason for this, but still - my data is now in an unsearchable state.</div><br><div><div>16 jan 2011 kl. 15.06 skrev Rusty Klophaus:</div><div><div></div><div class="h5">
<br><blockquote type="cite">That's one way of looking at it. The other viewpoint is that given the choice between returning a partial (a.k.a. incorrect) result set vs. failing loudly, the safest option is to fail loudly.<div>
<br></div><div>Ideally there would be a way to return a partial result set with an indication in Solr that the result set is partial, but:</div>
<div><br></div><div>1) The Solr spec doesn't indicate a way to include such a message (at least none that I could find)</div><div>2) This is the first iteration of this feature, so we decided to keep it simple until we have more detailed information on what people need.</div>

<div><br></div><div>So with that in mind, how would you prefer this be handled? I'm open to rethinking the behavior.</div><div><br></div><div>Best,</div><div>Rusty<br><div><br></div><div><div><br><div class="gmail_quote">

On Sun, Jan 16, 2011 at 8:53 AM, Eric Moritz <span dir="ltr"><<a href="mailto:eric@themoritzfamily.com" target="_blank">eric@themoritzfamily.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<p>That sounds like a bug rather that a feature to me. For instance if I wrote 100,001 blog entries, the search engine breaks hard for a query trying to find my latest tweets.</p><p>Is that what would happen?</p>
<div class="gmail_quote"><div>---------- Forwarded message ----------<br>From: "Rusty Klophaus" <<a href="mailto:rusty@basho.com" target="_blank">rusty@basho.com</a>><br></div><div><div></div><div>
Date: Jan 16, 2011 8:42 AM<br>Subject: Re: Re: too_many_results error<br>
To: "Eric Moritz" <<a href="mailto:eric@themoritzfamily.com" target="_blank">eric@themoritzfamily.com</a>><br>Cc: "<a href="mailto:riak-users@lists.basho.com" target="_blank">riak-users@lists.basho.com</a>" <<a href="mailto:riak-users@lists.basho.com" target="_blank">riak-users@lists.basho.com</a>><br>


<br type="attribution">Hi Eric,<div><br></div><div>This is a failsafe that is applied prior to the 'rows' parameter. </div><div><br></div><div>It is applied separately to provide a hard system limit, intended to allow the cluster administrator to guard against a malicious user, a client application that accidentally requests too much data, etc.</div>



<div><br></div><div>Best,</div><div>Rusty<div><br><br><div class="gmail_quote">On Sun, Jan 16, 2011 at 8:38 AM, Eric Moritz <span dir="ltr"><<a href="mailto:eric@themoritzfamily.com" target="_blank">eric@themoritzfamily.com</a>></span> wrote:<br>



<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><p>Would using the rows URL parameter fix this or is the error occurring prior to the result being limited?</p><div><div>



</div><div>
<div class="gmail_quote">---------- Forwarded message ----------<br>From: "Rusty Klophaus" <<a href="mailto:rusty@basho.com" target="_blank">rusty@basho.com</a>><br>Date: Jan 16, 2011 8:34 AM<br>Subject: Re: too_many_results error<br>




To: "Malka Feldman" <<a href="mailto:malkaf@3basegroup.com" target="_blank">malkaf@3basegroup.com</a>><br>Cc:  <<a href="mailto:riak-users@lists.basho.com" target="_blank">riak-users@lists.basho.com</a>><br>



<br type="attribution">Hi Malka,<div>
<br></div><div>The error you see is caused by a protective configuration setting that is new in the 0.14 release. By default, the system will stop the query after 100,000 results and return an error to the system. It is intended to prevent Riak Search from grabbing all available memory when faced with a large result set. </div>





<div><br></div><div>You can override this by setting the 'max_search_results' setting in the etc/app.config file. </div><div><br></div><div>Best,</div><div>Rusty</div><div><br><div class="gmail_quote"><div>

On Sun, Jan 16, 2011 at 7:11 AM, Malka Feldman <span dir="ltr"><<a href="mailto:malkaf@3basegroup.com" target="_blank">malkaf@3basegroup.com</a>></span> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">




<div>
<div dir="rtl"><div dir="ltr">Hi </div><div dir="ltr">I try to get results from query through solr , but I get the error of too many results</div><div dir="ltr">the query is : <a href="http://79.125.59.136:8098/solr/user_profile/select?q=country:USA" target="_blank">http://79.125.59.136:8098/solr/user_profile/select?q=country:USA</a> </div>






<div dir="ltr">I know I can have <span style="font-family:arial, sans-serif">hundreds of thousands of answers, can it hold them?</span></div><span style="font-family:arial, sans-serif;font-size:13px;color:rgb(136, 136, 136)"><div style="width:604px;vertical-align:top;display:inline-block;zoom:1;margin-top:16px">






<div style="color:rgb(17, 17, 204);text-decoration:none;float:left;margin-right:1em;outline-style:none"></div></div></span><div dir="ltr"><span style="font-family:Times;font-size:medium"><pre>the error :</pre><pre>{error,
    {throw,
        {too_many_results,
            {scope,#Ref<0.0.78.140604>,"user_profile","value",
                {scope,#Ref<0.0.78.140603>,undefined,"country",
                    {term,#Ref<0.0.78.140609>,<<"USA">>,
                        [{'<a href="mailto:riak@10.230.7.111" target="_blank">riak@10.230.7.111</a>',28438},
                         {'<a href="mailto:riak@10.230.21.243" target="_blank">riak@10.230.21.243</a>',28438},
                         {'<a href="mailto:riak@10.230.45.195" target="_blank">riak@10.230.45.195</a>',28438}],
                        28438.0,1.0,
                        #Fun}}}},
        [{riak_search_client,'-search/5-fun-0-',4},
         {riak_search_client,fold_results,5},
         {riak_search_client,search,6},
         {riak_search_client,search_doc,6},
         {riak_solr_searcher_wm,run_query,1},
         {riak_solr_searcher_wm,to_xml,2},
         {webmachine_resource,resource_call,3},
         {webmachine_resource,do,3}]}}</pre><div><br></div></span></div><div dir="ltr">thanks,<br>-- <br></div><div dir="ltr"><div><br></div><div><font color="#333399"><b>Malka Feldman</b></font></div><div><font color="#999999">Tribase LTD.</font></div>






<div><span style="font-family:arial, sans-serif;font-size:13px;border-collapse:collapse"><div style="margin-top:0px;margin-right:0px;margin-bottom:0px;margin-left:0px;text-align:left"><font color="#999999">41 Shimon Hatzadik St.</font></div>
<p style="margin-top:0px;margin-right:0px;margin-bottom:0px;margin-left:0px;text-align:left"></p><div style="margin-top:0px;margin-right:0px;margin-bottom:0px;margin-left:0px;text-align:left"><font color="#999999">Elad, Israel</font></div>
<div style="margin-top:0px;margin-right:0px;margin-bottom:0px;margin-left:0px;text-align:left"><font color="#999999">Tel. 074-7122736  Fax. 03-9075211 Cell. 972-54-8</font><font color="#999999">370828</font></div><div style="margin-top:0px;margin-right:0px;margin-bottom:0px;margin-left:0px;text-align:left">






<a href="mailto:miri.meltzer@tribasesoft.com" target="_blank"><font color="#333399">m</font></a><a href="mailto:alkaf@3basegroup.com" target="_blank"><font color="#333399">alkaf@3basegroup.com</font></a></div><div style="margin-top:0px;margin-right:0px;margin-bottom:0px;margin-left:0px;text-align:left">






<a href="http://www.tribasesoft.com/" target="_blank"><font color="#333399">www.3basegroup.com</font></a></div></span></div><div><br></div><div><img alt="cid:image001.jpg@01CB2DDB.3AC492C0"></div>


<div><br></div></div><div dir="ltr"><br></div>
</div>
<br></div>_______________________________________________<br>
riak-users mailing list<br>
<a href="mailto:riak-users@lists.basho.com" target="_blank">riak-users@lists.basho.com</a><br>
<a href="http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com" target="_blank">http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com</a><br>
<br></blockquote></div><br></div>
<br>_______________________________________________<br>
riak-users mailing list<br>
<a href="mailto:riak-users@lists.basho.com" target="_blank">riak-users@lists.basho.com</a><br>
<a href="http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com" target="_blank">http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com</a><br>
<br></div>
</div></div><br>_______________________________________________<br>
riak-users mailing list<br>
<a href="mailto:riak-users@lists.basho.com" target="_blank">riak-users@lists.basho.com</a><br>
<a href="http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com" target="_blank">http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com</a><br>
<br></blockquote></div><br></div></div>
</div></div></div>
<br>_______________________________________________<br>
riak-users mailing list<br>
<a href="mailto:riak-users@lists.basho.com" target="_blank">riak-users@lists.basho.com</a><br>
<a href="http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com" target="_blank">http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com</a><br>
<br></blockquote></div><br></div></div></div>
_______________________________________________<br>riak-users mailing list<br><a href="mailto:riak-users@lists.basho.com" target="_blank">riak-users@lists.basho.com</a><br><a href="http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com" target="_blank">http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com</a><br>
</blockquote></div></div></div><br></div><br>_______________________________________________<br>
riak-users mailing list<br>
<a href="mailto:riak-users@lists.basho.com">riak-users@lists.basho.com</a><br>
<a href="http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com" target="_blank">http://lists.basho.com/mailman/listinfo/riak-users_lists.basho.com</a><br>
<br></blockquote></div><br></div>