An sich finde ich die Idee mit der freiwilligen Teilnahme an Tests nicht schlecht, es sollte aber nicht für alle Tests und auch nur begrenzt möglich sein.
Was soll dagegen Sprechen, eine Nicht-Relevante Testgruppe anzulegen?
Das alte System kann ja beibehalten werden, es werden zufällige oder nur neue User oder was auch immer mit neuen Sachen konfrontiert. Und deren Verhalten kann ja auch weiter ermittelt werden. Zusätzlich kann man aber jedem User, der die Statisikt verfälschen würde, in eine extra Testgruppe packen. Er bekommt das selbe - nur sein Verhalten wird nicht dokumentiert. Dafür können diese User, weil sie sich ja i.d.R eher mit dem ganzen Auskennen auch Feedback geben und so kann bei der Entwicklung bereits auf alte Stammuser rücksicht genommen werden.
Man hat also im Grunde zwei Testgruppen: Die normale, wie jetzt auch. Und eine irrelevante Testgruppe die einfach von den Wertungen ausgeschlossen werden oder für die eine seperate Wertung vorgenommen wird. Z.B ob die freiwilligen aus der Testgruppe austreten, nach welcher Zeitspanne nachdem sie etwas neues ausprobiert haben (was ja auch ein Indiez dafür wäre,dass es den alten Usern nicht gefällt).
Wo das Problem dabei wäre ist mir etwas schleierhaft.
Sicher geht es vorallem darum, neue Nutzer zu gewinnen und zu sehen was kommt bei neuen Usern an und was nicht. Aber dieses Ergebnis wird doch eh verfälscht durch die ganzen Zweitnicks die teilweise nur dafür angelegt werden.
So auch mit der neuen Startseite: Neue User hätten das ja per Zufallsprinzip bekommen können. Und für alte User hätte man das ganze doch über eine extra Seite zugänglich machen können (gab es ja schonmal). So wie man es nun gelöst hat, haben die einen permanent ihre Cookies gelöscht weil sie die Seite nicht haben wollten und die anderen haben es ebenso gemacht weil sie in die Testgruppe wollten.