Kuinka luoda Deep Learning REST API Word2Vecillä ja Flaskilla

Perinteisiä kehitystapoja on vaikea ylläpitää, kun tuotannossa käytetään monimutkaisia ​​koneoppimismalleja. Kehittäminen kannettavalla tietokoneella tai paikallisella koneella voi olla hidasta koneoppimismallin kouluttamisessa syväoppimisen insinööreille. Tämän seurauksena käytämme yleensä tehokkaammilla laitteistoilla varustettuja pilvikoneita koneoppimismalliemme kouluttamiseen ja suorittamiseen. Tämä on hyvä käytäntö, koska abstraktimme monimutkaisen laskennan ja teemme sen sijaan AJAX-pyyntöjä tarpeen mukaan. Tässä opetusohjelmassa tuomme valmiiksi koulutetun Word2Vec-nimisen syväoppimismallin muiden palvelujen saataville rakentamalla REST API:n alusta alkaen.

Edellytykset

• Ubuntu 16.04 -palvelinesiintymä, jossa on vähintään 4 Gt RAM-muistia. Testaus- ja kehitystarkoituksiin voit valita esiintymän, jossa on 4 Gt RAM-muistia
• Ymmärtää kuinka käyttää Linux-käyttöjärjestelmää kansioiden ja tiedostojen luomiseen/navigointiin/muokkaukseen
• sudokäyttäjä

Mitä ovat Wordin upotukset?

Sanojen upotukset ovat viimeaikainen kehitys luonnollisen kielen käsittelyssä ja syväoppimisessa, joka on mullistanut molemmat alat nopean edistymisen ansiosta. Sanojen upotukset ovat pohjimmiltaan vektoreita, joista jokainen vastaa yhtä sanaa siten, että vektorit tarkoittavat sanoja. Tämä voidaan osoittaa tietyillä ilmiöillä, kuten vektorilla king - queen = boy - girl. Sanavektoreita käytetään rakentamaan kaikkea suositusmoottoreista chat-botteihin, jotka todella ymmärtävät englannin kieltä.

Sanojen upotukset eivät ole satunnaisia; ne syntyvät kouluttamalla hermoverkkoa. Äskettäinen tehokas sanan upotustoteutus tulee Googlelta nimeltä Word2Vec, jota koulutetaan ennustamalla sanoja, jotka esiintyvät kielen muiden sanojen vieressä. Esimerkiksi sanalle "cat"hermoverkko ennustaa sanat "kitten"ja "feline". Tämä vierekkäisten sanojen intuitio mahdollistaa niiden sijoittamisen vektoriavaruuteen.

Käytännössä käytämme kuitenkin muiden suuryritysten, kuten Googlen, esikoulutettuja malleja prototyyppien nopeaan valmistukseen ja käyttöönottoprosessien yksinkertaistamiseen. Tässä opetusohjelmassa lataamme ja käytämme Googlen Word2Vec valmiiksi koulutettuja sanan upotuksia. Voimme tehdä tämän suorittamalla seuraavan komennon työhakemistossamme.

wget http://magnitude.plasticity.ai/word2vec/GoogleNews-vectors-negative300.magnitude

Pullon ja magnitude-pakettien asentaminen

Lataamamme sanan upotusmalli on .magnitudemuodossa. Tämä muoto mahdollistaa mallin kyselyn tehokkaasti SQL:n avulla ja on siksi optimaalinen upotusmuoto tuotantopalvelimille. Koska meidän on pystyttävä lukemaan .magnitudemuotoa, asennamme pymagnitudepaketin. Asennamme flaskmyös myöhemmin palvelemaan mallin tekemiä syvän oppimisen ennusteita.

pip3 install pymagnitude flask

Lisäämme sen myös riippuvuusseurantaan seuraavalla komennolla. Tämä luo tiedoston nimeltä requirements.txtja tallentaa Python-kirjastomme, jotta voimme asentaa ne uudelleen myöhemmin.

pip3 freeze > requirements.txt

Word2Vec-mallin kysely

Aluksi luomme tiedoston, joka käsittelee sanan upotusten avaamista ja kyselyä.

touch model.py

Seuraavaksi lisäämme seuraavat rivit model.pymagnituden tuontia varten.

from pymagnitude import Magnitude
vectors = Magnitude('GoogleNews-vectors-negative300.magnitude')

Voimme leikkiä pymagnitudepaketin ja syväoppimismallin kanssa käyttämällä querymenetelmää ja tarjoamalla argumentin sanalle.

cat_vector = vectors.query('cat')
print(cat_vector)

Sovellusliittymämme ytimeen määrittelemme funktion, joka palauttaa kahden sanan merkityksen. Tämä on selkäranka useimmille syväoppimisratkaisuille, kuten suositusmoottoreille (eli sisällön näyttämiselle samanlaisilla sanoilla).

Voimme leikkiä tällä toiminnolla käyttämällä similarityja most_similar -funktioita.

print(vectors.similarity("cat", "dog"))
print(vectors.most_similar("cat", topn=100))

Toteutamme samankaltaisuuslaskimen seuraavasti. Flask API kutsuu tätä menetelmää seuraavassa osiossa. Huomaa, että tämä funktio palauttaa todellisen arvon välillä 0 ja 1.

def similarity(word1, word2):
    return vectors.similarity(word1, word2)

REST API:n luominen

Luomme palvelimemme tiedostoon service.py, jonka sisältö on seuraava. Tuomme flaskja requestkäsittelemme palvelinominaisuuksiamme ja tuomme similaritymoottorin aiemmin kirjoittamastamme moduulista.

from flask import Flask, request
from model import similarity

app = Flask(__name__)

@app.route("/", methods=['GET'])
def welcome():
    return "Welcome to our Machine Learning REST API!"

@app.route("/similarity", methods=['GET'])
def similarity_route():
    word1 = request.args.get("word1")
    word2 = request.args.get("word2")
    return str(similarity(word1, word2))

if __name__ == "__main__":
    app.run(port=8000, debug=True)

Palvelimemme on melko paljas luuta, mutta sitä voidaan helposti laajentaa luomalla lisää reittejä @app.routesisustajalla.

API-puheluiden tekeminen

Voimme käyttää Flask-palvelinta suorittamalla seuraavat komennot aktivoidaksemme virtuaaliympäristömme, asentaaksemme paketit ja suorittaaksemme siihen liittyvän Python-tiedoston.

source venv/bin/activate
pip3 install -r requirements.txt
python3 service.py

Palvelimemme on käytettävissä osoitteessa localhost:8000. Voimme tehdä kyselyitä tietokannastamme osoitteessa localhost:8000/similarity?word1=cat&word2=dogja tarkastella vastausta joko selaimessamme tai toisen AJAX-asiakkaan kautta.