Un proven tester, anche noto come critical path wrangler, effettuando dei test di stabilità, verifica e riporta commenti sugli aggiornamenti riguardanti i
critical path packages (pacchetti che rientrano nel critical path). Dopo essersi procurato gli aggiornamenti dal repository updates-testing, invia i propri risultati sotto forma di karma, usando Bodhi.
Per un pacchetto che sia nel critical-path, perchè che esso possa essere inviato al repository stabile, occorre che un proven-tester dia karma positivo.
Un proven-tester è un membro del gruppo proventesters e per poterne far parte occore dapprima farsi approvare da un esperto del gruppo (mentor).
Per unirsi ai proven testers...
- Dopo aver ottenuto un account in FAS (Fedora Account System), iscriversi al gruppo proventesters.
- Inviare una richiesta in Fedora QA Trac, con il tipo proventester request ed il componente Proventester Mentor Request, chiedendo di voler diventare un proven-tester e di cercare un esperto.
- Attendere la risposta (un paio di giorni) e poi seguire le istruzioni che verranno fornite dall'esperto.
Per accelerare il processo, puoi iniziare a prendere confidenza con le attività svolte da un proven-tester, seguendo le istruzioni che trovi in questa pagina ed iniziando anche ad inviare commenti sui test effettuati. Sarebbe ideale segnalare al proprio mentor che si sono apprese le istruzioni quì indicate, che si sa come installare e testare gli aggiornamenti sottoposti a test, e come inviare i relativi feedback. Se si è già inviato qualche feedback, se ne indichi un link in modo che il mentor possa verificare la correttezza del feedback!
Il processo di Test
Prima di rilasciare un aggiornamento pubblicamente, i proven-tester verificano la stabilità di base del pacchetto. (La verifica della correttezza totale o un test volto a verificare la totale assenza di errori richiederebbe, com'è intuibile, ingenti risorse materiali/umane/temporali!) Esistono test che si applicano solo in alcuni aggiornamenti, ed altri che devono essere applicati ad ogni nuovo aggiornamento del pacchetto. In generale, un aggiornamento deve essere in grado di assicurare/presevare tutte le attività richieste dal critical path action e dalla Fedora release criteria.
I proven-tester verificano gli aggiornamenti, installando i pacchetti dal repository updates-testing. (Per configurare il proprio sistema, ad ottenere tali aggiornamenti, vedere la pagina updates-testing). Per una rapida intercettazione di eventuali regressioni, si consiglia di effettuare un aggiornamento completo da questo repository almeno una volta al giorno. Si raccomanda anche di abilitare SELinux e impostare la modalità Enforcing.
Test generale
- Il sistema deve essere in grado di spegnersi e di riavviarsi
- L'utente deve essere in grado di accedere al proprio desktop
- L'utente deve essere in grado di accedere alla rete
Testare le applicazioni
Se il pacchetto è un'applicazione, verificare la correttezza delle sue funzionalità di base.
Testare librerie e componenti condivisi
Se il pacchetto contiene una libreria o un componente condiviso, eseguire un'applicazione da essa dipendente per verificarne il funzionamento.
Procedure di Feedback
Poichè il karma del proven-tester determina la promozione o meno a stable del pacchetto, all'occorrenza di una regressione e in base al relativo grado di severità, bisogna seguire una particolare procedura.
(FEK) Fedora Easy Karma è uno strumento usato dai proven-tester, che elenca i pacchetti installati dal repository updates-testing e che serve ad inviare feedback su un pacchetto testato. Se si ha poco tempo a disposizione per il testing, si può usare comodamente usare il parametro --critpath-only, che limita FEK ad elencare solo i pacchetti nel critical path, non ancora approvati.
Se non si usa il parametro, prestare particolare attenzione a quegli aggiornamenti nel critical path, come indicato nelle corrispondenti note descrittive.
Feedback positivo
Usually, you will be able to post positive feedback on an update. If you do not encounter any of the situations below, and find that the update passes the tests mentioned above and does not cause you any other problems, you should leave positive feedback and note that you were able to use the package successfully and did not notice any significant problems.
Bug maggiori
If you identified any serious problems in earlier testing and were able to identify the package responsible, post negative feedback for that package. If possible, please file a bug report on the problem and link to the bug report in your feedback message. A good feedback message quickly and clearly identifies the behavior change and the cause, if you were able to determine it.
Bug minori
If you identify a problem which is minor in nature and does not impede the actual critical path functionality, please do not post negative feedback. Post neutral or positive feedback with a note of the issue encountered (and a link to a bug report if appropriate).
Bug già riportati
If your testing uncovers no problems but you see that another tester has identified a serious problem with the package, please try to replicate their problem, and post negative feedback if you are now able to confirm it. If you are not able to confirm the problem but you suspect this may be because you cannot recreate the necessary conditions, please post neutral feedback noting that you were unable to duplicate the problem. Only post positive feedback if you are sure your testing indicates the other reporter's negative feedback is a mistake.
Pacchetti non familiari
If you are not sure what the component does or how to test it, do not post positive or negative feedback. For critical path updates, if the above general tests of booting, network functionality and update functionality identified no problems, it is fine to leave a neutral feedback message noting that you were able to boot the system and perform critical path tasks with the update installed. This is generally not useful for non-critical path updates, however: please only comment on them if you are familiar with the package and able to test it directly.
Proven tester mentoring
Proven tester mentors accept requests from prospective proven tester members, and check that the applicants have read and understood the proven tester instructions before approving their membership. This process is not intended to be onerous, and we should expect to accept all applications unless they have obviously been made in error, seem malicious in intent or the applicant fails to affirm that they have read the instructions for the process.
Diventare un mentor
Any proven tester can become a mentor. Simply let any existing mentor or group administrator - those listed as administrator or sponsor in the group member list - know you would like to become a mentor, and they will upgrade you to sponsor level, which will allow you to accept applications to the group.
Il processo di mentoring
You can find membership applications in Trac - they will appear under Proventester Mentor Request Release in that list. To accept an application, assign it to yourself. Now ensure that the applicant has applied to the FAS group, read the instructions on this page, and knows how to use the updates-testing repository and fedora-easy-karma. If the applicant provides links to some feedback they have already posted, read these to check that they are in line with the process. If all of this is in order, sponsor the applicant into the proventesters FAS group, and close the application ticket. You can see an example completed application ticket here.