Un articolo arriva nella Sua casella di posta. Qualcuno nel Suo team dice «guarda questo studio VR, sembra utile». Vuole sapere cosa farne prima della Sua prossima sessione o della Sua prossima riunione di committenza. Da dove inizia?

Questa è una breve guida per leggere uno studio di logopedia in VR con occhio critico. Non un corso di metodi di ricerca. Non un primer di statistica. Solo un insieme pratico di domande che un professionista della logopedia può tenere a mente per distinguere tra uno studio che supporta una decisione clinica e uno studio che è interessante ma non pronto a cambiare ciò che si fa.

Inizi con chi, non con cosa

Prima di qualsiasi altra cosa, legga la sezione Partecipanti. Chi era in questo studio?

Se la popolazione nello studio è molto diversa dalle persone che vede in clinica, i risultati non si trasferiscono necessariamente. Questa non è una critica allo studio. È un promemoria che nessuno studio singolo risponde a ogni domanda, e le evidenze devono essere abbinate alla popolazione che Le interessa.

Capisca cosa hanno effettivamente confrontato

La sezione successiva che vale la pena leggere è Design. Cosa hanno confrontato i ricercatori?

Si chieda: se l’intervento non avesse avuto alcun effetto, ci sarebbe qualche altra ragione per cui gli esiti potrebbero essere cambiati attraverso le condizioni? Se la risposta è «sì, molte ragioni», allora il design è debole per un’affermazione causale. Un buon design di studio esclude la maggior parte delle alternative.

Guardi cosa hanno misurato

La sezione Misure di esito dice cosa i ricercatori hanno deciso che contasse come evidenza. Questo è importante perché misure diverse raccontano storie diverse.

Gli studi di validazione VR più convincenti combinano misure. Se l’ansia aumenta su SUDS e la frequenza cardiaca e le misure vocali si spostano in modo coerente, questa è evidenza più forte di qualsiasi singola misura sola. Faccia attenzione agli studi che riportano solo un tipo di misura - raccontano una storia parziale.

Verifichi se l’effetto è effettivamente grande

Un risultato può essere statisticamente significativo e praticamente privo di significato. Questa è una lezione difficile. Accade perché la significatività statistica dipende dalla dimensione del campione: una differenza minuscola sarà statisticamente significativa se il campione è abbastanza grande.

Quello che vuole è una dimensione dell’effetto. Quelle comuni in questa letteratura:

Se un articolo riporta solo p-values senza dimensioni dell’effetto, questa è una debolezza. Se riporta dimensioni dell’effetto, le controlli. Un grande p-value con una piccola dimensione dell’effetto può ancora essere clinicamente non interessante anche se le statistiche sono legittime.

Legga la sezione delle limitazioni (sul serio)

Gli autori conoscono le limitazioni dei propri studi meglio di Lei. Legga ciò che dicono. Una buona sezione delle limitazioni Le dirà:

Se la sezione delle limitazioni di un articolo è un singolo paragrafo buttato lì, tratti i risultati con cautela. Se gli autori hanno pensato attentamente a cosa il loro studio può e non può dirci, dia all’articolo più peso.

Distingua fattibilità da effetto

Molta ricerca VR in fase iniziale riguarda fattibilità piuttosto che effetto. Uno studio di fattibilità chiede: «si può fare? I partecipanti lo tollereranno? L’attrezzatura funziona come previsto?» Queste sono domande di ricerca legittime, e i risultati possono essere informativi - ma non sono evidenza che l’intervento funzioni.

Uno studio di fattibilità con cinque partecipanti che mostra che l’ansia è diminuita nell’arco di una settimana Le dice che una settimana di pratica è fattibile. Non Le dice che la VR ha causato il cambiamento. Altre cose potrebbero averlo fatto - effetti di pratica, aspettativa, l’attenzione del ricercatore, regressione alla media.

Quando vede uno studio VR pre-post a piccolo campione con risultati favorevoli, chieda: «è questo un pilota che mi dice che l’idea vale uno studio più grande, o sta venendo presentato come evidenza di effetto?» Il primo è utile. Il secondo sarebbe sovrastima.

Chieda della generalizzazione onestamente

La maggior parte degli studi VR misura le risposte all’interno dell’ambiente virtuale. Meno misurano se i guadagni si trasferiscono a situazioni del mondo reale. Eppure ciò che i clienti di solito vogliono è cambiamento nella vita reale, non in una stanza virtuale.

Domande da tenere:

Se nessuna di queste è presente, lo studio non può dirLe molto sul trasferimento al mondo reale. Questo non è un difetto - è una limitazione di ambito. Ma è importante quando sta decidendo cosa supporta uno studio.

Verifichi chi ha finanziato lo studio

Le dichiarazioni di Finanziamento e Conflitti di interesse valgono la pena di essere lette. Il finanziamento indipendente da consigli di ricerca, università o enti governativi è diverso dal finanziamento industriale o da uno studio condotto da un’azienda sul proprio prodotto.

Nessun tipo di finanziamento invalida automaticamente uno studio. Ma sapere chi ha pagato per esso e chi ha un interesse finanziario nei suoi risultati aiuta a pesare i risultati. Uno studio sui pubblici virtuali finanziato da un consiglio di ricerca ha un peso diverso da uno studio su uno specifico prodotto VR condotto dall’azienda di quel prodotto.

Una breve checklist

Se uno studio di logopedia in VR arriva sulla Sua scrivania, queste sei domande La porteranno gran parte della strada:

La checklist a 6 domande

Leggere uno studio di logopedia in VR con occhio critico

1Chi è stato studiato?Dimensione del campione e popolazione.5 = pilota · 15 = piccolo ·50+ = generalizzabile.2Qual era il design?Entro / tra / pre-post /RCT. Quali alternativeesclude?3Cosa è stato misurato?Auto-report, comportamento,fisiologia, acustica.Più misure = più forte.4Quanto è grande l'effetto?d di Cohen, r o eta-quadrato- non solo il p-value.5Cosa hanno segnalato gli autori?Legga la sezione limitazionisul serio. Una sezione esileè già un segnale.6Ha testato il trasferimento?È stato misurato qualcosaal di fuori del setting VR?È la domanda clinica.Sei domande. Nessun background statistico necessario.L'articolo stesso risponde a ciascuna in linguaggio semplice da qualche parte.Rallenti abbastanza da trovare la risposta per tutte e sei.
  1. Chi è stato studiato? Dimensione del campione e popolazione. 5 = pilota, 15 = piccolo, 50+ = generalizzabile.
  2. Qual era il design? Entro / tra / pre-post / RCT. Quali alternative esclude?
  3. Cosa è stato misurato? Auto-report, comportamento, fisiologia, acustica. Più misure = più forte.
  4. Quanto è grande l'effetto? d di Cohen, r o eta-quadrato - non solo il p-value.
  5. Cosa hanno segnalato gli autori? Legga la sezione limitazioni sul serio. Una sezione esile è già un segnale.
  6. Ha testato il trasferimento? È stato misurato qualcosa al di fuori del setting VR? Il trasferimento al mondo reale è la domanda clinica.

Stampi o salvi questa scheda. Nessuna di queste domande richiede un background statistico - chiedono cosa l'articolo stesso di solito risponde in linguaggio semplice.

Niente di tutto ciò richiede un background statistico. Richiede di rallentare e porre le domande a cui gli autori di solito rispondono in linguaggio semplice da qualche parte nell’articolo.

Approfondimenti