Als u van plan bent een succesvol donutbedrijf te starten, moet u de beste donut op de markt bereiden. Hoewel uw technische vaardigheden en ervaring een cruciale rol spelen in uw donuts-business, moet u uw donuts met de best mogelijke ingrediënten bereiden om uw delicatesse echt te laten klikken onder uw doelgroepen en terugkerende klanten te halen.
De kwaliteit van uw individuele ingrediënten, de plaats waar u ze vandaan haalt, hoe ze zich vermengen en elkaar aanvullen, en meer steevast bepalen de smaak, vorm en consistentie van de donut. Hetzelfde geldt ook voor de ontwikkeling van uw machine learning-modellen.
Hoewel de analogie misschien bizar lijkt, moet u zich realiseren dat kwaliteitsgegevens het beste ingrediënt zijn dat u in uw machine learning-model kunt inbrengen. Ironisch genoeg is dit ook het moeilijkste onderdeel van de ontwikkeling van AI (Artificial Intelligence). Bedrijven worstelen met het verzamelen en verzamelen van kwaliteitsgegevens voor hun AI-trainingsprocedures, waardoor de ontwikkelingstijd wordt vertraagd of een oplossing wordt gelanceerd die minder efficiënt is dan verwacht.
Beperkt door budgetten en operationele beperkingen, zijn ze gedwongen hun toevlucht te nemen tot ongebruikelijke methoden voor gegevensverzameling, zoals verschillende crowdsourcing-technieken. Dus, werkt het? Is hoogwaardige data crowdsourcing echt iets? Hoe meet je datakwaliteit in de eerste plaats?
Laten wij het uitzoeken.
Wat is datakwaliteit en hoe meet je het?
Datakwaliteit vertaalt zich niet alleen in hoe schoon en gestructureerd uw datasets zijn. Dit zijn esthetische maatstaven. Wat er echt toe doet, is hoe relevant uw gegevens voor uw oplossing zijn. Als u een AI-model ontwikkelt voor een gezondheidszorg oplossing en een meerderheid van uw datasets zijn slechts vitale statistieken van draagbare apparaten, wat u hebt zijn slechte gegevens.
Hiermee is er geen enkel tastbaar resultaat. Gegevenskwaliteit komt dus neer op gegevens die contextueel zijn voor uw zakelijke ambities, compleet, geannoteerd en machineklaar zijn. Gegevenshygiëne is een subset van al deze factoren.
Nu we weten wat gegevens van slechte kwaliteit zijn, hebben we ook: op de lijst gezet een lijst met 5 factoren die de datakwaliteit beïnvloeden.
Hoe datakwaliteit meten?
Er is geen formule die u in een spreadsheet kunt gebruiken om de gegevenskwaliteit bij te werken. Er zijn echter handige statistieken waarmee u de efficiëntie en relevantie van uw gegevens kunt bijhouden.
Verhouding van gegevens tot fouten
Dit houdt het aantal fouten bij dat een dataset heeft met betrekking tot het volume.
Lege waarden
Deze statistiek geeft het aantal onvolledige, ontbrekende of lege waarden in gegevenssets aan.
Verhoudingen voor gegevenstransformatiefouten
Dit houdt het aantal fouten bij dat opduikt wanneer een dataset wordt getransformeerd of geconverteerd naar een ander formaat.
Donker gegevensvolume
Donkere gegevens zijn alle gegevens die onbruikbaar, overbodig of vaag zijn.
Gegevens Tijd tot Waarde
Dit meet de hoeveelheid tijd die uw personeel besteedt aan het extraheren van de benodigde informatie uit datasets.
Dus hoe u gegevenskwaliteit kunt garanderen tijdens crowdsourcing?
Er zullen momenten zijn dat uw team wordt gepusht om gegevens te verzamelen binnen strikte tijdlijnen. In dergelijke gevallen, crowdsourcing-technieken helpen aanzienlijk. Betekent dit echter dat crowdsourcing van hoogwaardige data altijd een plausibele uitkomst kan zijn?
Als je bereid bent om deze maatregelen te nemen, zou de kwaliteit van je crowdsourced-gegevens in zekere mate toenemen dat je ze zou kunnen gebruiken voor snelle AI-trainingsdoeleinden.
Scherpe en ondubbelzinnige richtlijnen
Crowdsourcing houdt in dat u via internet crowd-sourced werknemers benadert om met relevante informatie aan uw eisen bij te dragen.
Er zijn gevallen waarin echte mensen geen correcte en relevante details verstrekken omdat uw vereisten dubbelzinnig waren. Om dit te voorkomen, publiceert u een reeks duidelijke richtlijnen over waar het proces over gaat, hoe hun bijdragen zouden helpen, hoe ze zouden kunnen bijdragen, en meer. Om de leercurve tot een minimum te beperken, introduceert u screenshots van hoe u details kunt indienen of korte video's over de procedure.
Gegevensdiversiteit en vooroordelen wegnemen
Er kan worden voorkomen dat vooringenomenheid in uw datapool wordt geïntroduceerd wanneer deze op basisniveau wordt aangepakt. Bias ontstaat alleen wanneer een grote hoeveelheid gegevens neigt naar een bepaalde factor, zoals ras, geslacht, demografie en meer. Om dit te voorkomen, moet je je publiek zo divers mogelijk maken.
Publiceer uw crowdsourcing-campagne overal verschillende marktsegmenten, doelgroeppersonages, etniciteiten, leeftijdsgroepen, economische achtergronden en meer. Dit zal u helpen bij het samenstellen van een rijke datapool die u kunt gebruiken voor onbevooroordeelde resultaten.
Meerdere QA-processen
Idealiter zou uw QA-procedure twee belangrijke processen moeten omvatten:
- Een proces geleid door machine learning-modellen
- En een proces geleid door een team van professionele kwaliteitsmedewerkers
QA voor machinaal leren
Dit kan uw voorlopige validatieproces zijn, waarbij machine learning-modellen beoordelen of alle vereiste velden zijn ingevuld, benodigde documenten of details worden geüpload, of de vermeldingen relevant zijn voor de gepubliceerde velden, diversiteit aan datasets en meer. Voor complexe gegevenstypen zoals audio, afbeeldingen of video's kunnen machine learning-modellen ook worden getraind om noodzakelijke factoren zoals duur, audiokwaliteit, formaat en meer te valideren.
Handmatige QA
Dit zou een ideaal tweedelaags kwaliteitscontroleproces zijn, waarbij uw team van professionals snelle audits van willekeurige datasets uitvoert om te controleren of aan de vereiste kwaliteitsstatistieken en -normen wordt voldaan.
Als er een patroon is in de uitkomsten, kan het model worden geoptimaliseerd voor betere resultaten. De reden waarom handmatige QA geen ideaal voorbereidend proces zou zijn, is vanwege de hoeveelheid datasets die u uiteindelijk zou krijgen.
Dus, wat is uw plan?
Dit waren dus de meest praktische best practices om te optimaliseren gecrowdsourced data kwaliteit. Het proces is vervelend, maar maatregelen als deze maken het minder omslachtig. Implementeer ze en houd uw resultaten bij om te zien of ze in overeenstemming zijn met uw visie.