Direkt zum Hauptbereich

Love your #nearest neighbor

In this post the k-nearest neighbors algorithm is used to classify Twitter-data.
We have 1000 tweets about fracking which are labeld "c" = contra fracking, "p" = pro fracking, "n" = neutral to fracking, "nr" = not related to fracking.
The data can be found here.
The data is already cleaned: Missing values have been coded as -9999, than all numeric variables have been normalized with this R-function:
normalize = function(x) (x-min(x))/(max(x)-min(x))
Dates are transformed with, as can be seen here.
The k-nearest-neighbors algorithm is a "lazzy" learner. It does not make any assumtpions about any distributions (non-parametric approach!). It simply calculates the distance in the feature space. Therefore, it does not "learn" anything because it won't come up with any abstraction.
We want to test, if k-nearest-neighbors can identify the tweets just by the meta-data (without looking at the text...).

Here is the R-script:
#load the data (of course it has to be in the working directory...)
dfn=read.csv("FrackTweets.csv")

#remove the text-column
dfn=dfn[,-1]

#create 500 random numbers to allocate test and training set
samp=sample(1000,500)

#and now run the k-nearest-neigbors
library(class)
bof=knn(train=dfn[samp,-dim(dfn)[2]], test=dfn[-samp,-dim(dfn)[2]], cl=dfn$codes[samp], k=32)
We used half of the data for training and the other half for testing. 
How good is this classification?
The package gmodels has a nice function for cross-tables:
library(gmodels)
CrossTable(x=dfn$codes[-samp], y=bof, prop.chisq=F)

Total Observations in Table:  500 

 
                 | bof 
dfn$codes[-samp] |         c |         n |        nr | Row Total | 
-----------------|-----------|-----------|-----------|-----------|
               c |       216 |        11 |         3 |       230 | 
                 |     0.939 |     0.048 |     0.013 |     0.460 | 
                 |     0.457 |     0.550 |     0.429 |           | 
                 |     0.432 |     0.022 |     0.006 |           | 
-----------------|-----------|-----------|-----------|-----------|
               n |       114 |         5 |         0 |       119 | 
                 |     0.958 |     0.042 |     0.000 |     0.238 | 
                 |     0.241 |     0.250 |     0.000 |           | 
                 |     0.228 |     0.010 |     0.000 |           | 
-----------------|-----------|-----------|-----------|-----------|
              nr |        97 |         4 |         3 |       104 | 
                 |     0.933 |     0.038 |     0.029 |     0.208 | 
                 |     0.205 |     0.200 |     0.429 |           | 
                 |     0.194 |     0.008 |     0.006 |           | 
-----------------|-----------|-----------|-----------|-----------|
               p |        46 |         0 |         1 |        47 | 
                 |     0.979 |     0.000 |     0.021 |     0.094 | 
                 |     0.097 |     0.000 |     0.143 |           | 
                 |     0.092 |     0.000 |     0.002 |           | 
-----------------|-----------|-----------|-----------|-----------|
    Column Total |       473 |        20 |         7 |       500 | 
                 |     0.946 |     0.040 |     0.014 |           | 
-----------------|-----------|-----------|-----------|-----------|
 

What do think? Is it a good classifyer?

Kommentare

Beliebte Posts aus diesem Blog

Was man an der COVID-Politik über Faschismus lernen kann

Kritiker der Corona-Politik führen immer häufiger den Begriff Faschismus im Munde, um die politischen Maßnahmen zu beschreiben. Einerseits ist damit natürlich eine polemische Ablehnung verbunden: Wer will schon für Faschismus sein? Generell ist der moralische Vorwurf, etwas sei faschistisch oder faschistoid in der demokratischen Auseinandersetzung durchaus geläufig. Dabei wird jedoch meist auf etwas verwiesen, was zum demokratischen Staat dazu gehört und gerade keinen Faschismus begründet: Die Polizei, die das Gewaltmonopol durchsetzt, ist keine faschistische Organisation, ein Parlament, welches Bürgerrechte einschränkt, ist kein Beleg für die faschistische Aufhebung des Rechtsstaats und ein Medienartikel, der dazu aufruft, Bürger sollen Straftäter anzeigen, ist keine faschistische Propaganda, usw. All dies sind Beispiele für das Leben in demokratischen Gemeinwesen. Anstatt die Demokratie also immer gleich auf dem Weg in den Faschismus zu wähnen, wäre es angebracht, sich zu fragen, war...

Kritik an dem Science-Artikel der Priesemann-Gruppe „Inferring change points in the spread of COVID-19 reveals the effectiveness of interventions“

Der Science-Artikel von Dehning et al. (2020) gilt als Beleg für die Effektivität der Corona-Maßnahmen in Deutschland im März 2020. Wir glauben, dass der Artikel gravierende Fehler enthält und daher nichts darüber aussagt, ob insbesondere das Kontaktverbot vom 23.03.2020, irgendeinen Effekt hatte. Unsere Kritik haben wir bei Science eingereicht und sie ist hier zu finden: https://science.sciencemag.org/content/369/6500/eabb9789/tab-e-letters Im folgenden übersetze ich unseren Beitrag und gehe anschließend auf die Frage ein, wie Wissenschaft unter COVID-19-Bedingungen funktioniert und was daran bedenklich ist. Eine Kritik an ‘Inferring change points in the spread of COVID-19 reveals the effectiveness of interventions’ Wir haben den Artikel ‘Inferring change points in the spread of COVID-19 reveals the effectiveness of interventions’ analysiert und dabei gravierende Unstimmigkeiten im Design der Studie festgestellt: Anstatt das Datum der Wendepunkte (wann sich die COVID-19-Entwicklung i...

Der Nutzerismus: Eine Ideologie mit totalitärem Potential

Ich glaube, dass wir derzeit den Aufstieg einer Ideologie erleben, die ich Nutzerismus nennen möchte. Hannah Arendt hat darauf hingewiesen, dass jede Ideologie zu einem totalitaristischen Regime führen kann und es gibt ernste Anzeichen, dass dies auch für den Nutzerismus gilt.  Was ist der Nutzerismus? Wie bei jeder Ideologie ist der Kerngedanke sehr einfach: Im Prinzip gibt es für alle gesellschaftlichen Probleme eine technische Lösung. Leider wenden die Menschen die richtigen Technologien nicht an. Sie nehmen ihre Rolle als Nutzer nicht wahr. Es geht dem Nutzerismus also um das Zusammenspiel von Mensch und Technik, allerdings immer wieder aus der gleichen Perspektive. Die Technik kommt vor als potentielle Lösung eines gesellschaftlichen Problems. Eventuell fehlt die perfekte Lösung noch, aber das ist dann als Auftrag an die Wissenschaft und die Ingenieure zu verstehen. Dieser Technikglaube hat etwas sehr Naives. Er abstrahiert zum Beispiel von allen Interessen, für die Technolog...