Kaip sukurti gilaus mokymosi REST API naudojant „Word2Vec“ ir „Flask“.

Naudojant sudėtingus mašininio mokymosi modelius gamyboje, sunku išlaikyti tradicinius kūrimo metodus. Nešiojamojo kompiuterio ar vietinio kompiuterio kūrimas gali būti lėtas, norint išmokyti mašininio mokymosi modelį gilaus mokymosi inžinieriams. Todėl mes paprastai naudojame debesų įrenginius su galingesne aparatūra, kad galėtume mokyti ir vykdyti mašininio mokymosi modelius. Tai yra gera praktika, nes abstrahuojame sudėtingus skaičiavimus ir, jei reikia, pateikiame AJAX užklausas. Šiame vadove mes suteiksime iš anksto paruoštą giluminio mokymosi modelį, pavadintą Word2Vec, prieinamą kitoms paslaugoms, sukurdami REST API nuo pat pradžių.

Būtinos sąlygos

• Ubuntu 16.04 serverio egzempliorius su mažiausiai 4 GB RAM. Testavimo ir kūrimo tikslais galite pasirinkti egzempliorių su 4 GB RAM
• Supratimas, kaip naudoti Linux operacinę sistemą aplankams ir failams kurti/naršyti/redaguoti
• sudovartotojas

Kas yra žodžių įterpimas?

Žodžių įterpimas yra naujausias natūralios kalbos apdorojimo ir gilaus mokymosi pokytis, kuris dėl sparčios pažangos padarė revoliuciją abiejose srityse. Žodžių įterpimai iš esmės yra vektoriai, kurių kiekvienas atitinka vieną žodį, todėl vektoriai reiškia žodžius. Tai gali parodyti tam tikri reiškiniai, pavyzdžiui, vektorius king - queen = boy - girl. Žodžių vektoriai naudojami kuriant viską nuo rekomendacijų variklių iki pokalbių robotų, kurie iš tikrųjų supranta anglų kalbą.

Žodžių įterpimai nėra atsitiktiniai; jie generuojami treniruojant neuroninį tinklą. Naujausias galingas žodžių įterpimo diegimas atsirado „Google“, pavadintas „Word2Vec“, kuris mokomas numatant žodžius, kurie atsiranda šalia kitų kalbos žodžių. Pavyzdžiui, žodžiui "cat"neuroninis tinklas numatys žodžius "kitten"ir "feline". Ši žodžių, atsirandančių šalia vienas kito, intuicija leidžia juos patalpinti vektorinėje erdvėje.

Tačiau praktikoje esame linkę naudoti iš anksto parengtus kitų didelių korporacijų, tokių kaip „Google“, modelius, kad galėtume greitai sukurti prototipą ir supaprastinti diegimo procesus. Šioje pamokoje atsisiųsime ir naudosime Google Word2Vec iš anksto paruoštus žodžių įterpimus. Tai galime padaryti vykdydami šią komandą savo darbo kataloge.

wget http://magnitude.plasticity.ai/word2vec/GoogleNews-vectors-negative300.magnitude

Kolbos ir dydžio paketų montavimas

Atsisiųstas žodžio įdėjimo modelis yra tokio .magnitudeformato. Šis formatas leidžia efektyviai pateikti modelio užklausą naudojant SQL, todėl yra optimalus gamybos serverių įterpimo formatas. Kadangi turime mokėti skaityti .magnitudeformatą, įdiegsime pymagnitudepaketą. Taip pat įdiegsime, flaskkad vėliau pateiktume modelio pateiktas gilaus mokymosi prognozes.

pip3 install pymagnitude flask

Taip pat pridėsime jį prie savo priklausomybės stebėjimo priemonės naudodami šią komandą. Tai sukuria failą pavadinimu requirements.txtir išsaugo mūsų Python bibliotekas, kad galėtume jas įdiegti vėliau.

pip3 freeze > requirements.txt

„Word2Vec“ modelio užklausa

Norėdami pradėti, sukursime failą, kad būtų galima atidaryti žodžių įterpimus ir pateikti užklausas.

touch model.py

Tada pridėsime šias eilutes, model.pykad importuosime dydį.

from pymagnitude import Magnitude
vectors = Magnitude('GoogleNews-vectors-negative300.magnitude')

pymagnitudeNaudodami querymetodą galime žaisti su paketu ir giluminio mokymosi modeliu , pateikdami argumentą už žodį.

cat_vector = vectors.query('cat')
print(cat_vector)

API esme apibrėžsime funkciją, grąžinančią dviejų žodžių prasmės skirtumą. Tai yra daugumos giluminio mokymosi sprendimų, tokių kaip rekomendacijų varikliai (ty turinio rodymas panašiais žodžiais), pagrindas.

Su šia funkcija galime žaisti naudodami similarityir most_similar funkcijas.

print(vectors.similarity("cat", "dog"))
print(vectors.most_similar("cat", topn=100))

Panašumo skaičiuoklę įgyvendiname taip. Šį metodą iškvies Flask API kitame skyriuje. Atminkite, kad ši funkcija grąžina tikrąją reikšmę nuo 0 iki 1.

def similarity(word1, word2):
    return vectors.similarity(word1, word2)

REST API kūrimas

Mes sukursime savo serverį faile, pavadintame service.pytokiu turiniu. Mes importuojame flaskir requesttvarkome savo serverio galimybes ir importuojame similarityvariklį iš modulio, kurį parašėme anksčiau.

from flask import Flask, request
from model import similarity

app = Flask(__name__)

@app.route("/", methods=['GET'])
def welcome():
    return "Welcome to our Machine Learning REST API!"

@app.route("/similarity", methods=['GET'])
def similarity_route():
    word1 = request.args.get("word1")
    word2 = request.args.get("word2")
    return str(similarity(word1, word2))

if __name__ == "__main__":
    app.run(port=8000, debug=True)

Mūsų serveris yra gana plikas, tačiau jį galima nesunkiai išplėsti sukuriant daugiau maršrutų naudojant @app.routedekoratorių.

API skambučių atlikimas

Galime paleisti savo „Flask“ serverį vykdydami šias komandas, kad suaktyvintume virtualią aplinką, įdiegtume paketus ir paleistume susijusį „Python“ failą.

source venv/bin/activate
pip3 install -r requirements.txt
python3 service.py

Mūsų serveris bus pasiekiamas adresu localhost:8000. Mes galime pateikti užklausą savo duomenų bazėje adresu localhost:8000/similarity?word1=cat&word2=dogir peržiūrėti atsakymą savo naršyklėje arba per kitą AJAX klientą.