Selam! Bir transformatör tedarikçisi olarak, bir transformatörde konumsal kodlamaların nasıl kullanıldığı hakkında birçok soru alıyorum. Bu yüzden, sizin için anlaşılması kolay bir şekilde parçalamak için bir dakikanızı ayıracağımı düşündüm.
Öncelikle, bir transformatörün ne olduğu hakkında konuşalım. Benim gibi elektrik dünyasındaysanız, transformatör elektromanyetik indüksiyon yoluyla elektrik enerjisini iki veya daha fazla devre arasında aktaran bir cihazdır. Ancak makine öğrenimi bağlamında, bir transformatör, metin gibi sıralı verileri işlemede gerçekten iyi olan bir tür sinir ağı mimarisidir. "İhtiyaç duyduğunuz her şeydir" makalesinde tanıtıldı ve o zamandan beri doğal dil işleme görevlerinde bir temel haline geldi.
Şimdi, konumsal kodlamalar. Bir transformatörde, giriş verileri genellikle bir cümledeki kelimeler gibi bir dizi jetondur. Ama işte şu: Transformer mimarisinin kendisinin inşa edilmesi yok - bu belirteçlerin sırasını anlayacak şekilde. Verileri sırayla işleyen tekrarlayan sinir ağları (RNN'ler) gibi diğer bazı sinir ağı mimarilerinin aksine, transformatör tüm jetonları aynı anda bir sıradaki işler. Konumsal kodlamaların devreye girdiği yer burası.
Konumsal kodlamalar, sıradaki her jetonun konum bilgilerini modele enjekte etmenin bir yoludur. Tokenlerin giriş gömülmelerine eklenirler. Fikir, modele her bir jetonun sırada nerede bulunduğuna dair bir his vermektir.
Konumsal kodlamalar oluşturmanın yaygın bir yolu, sinüs ve kosinüs fonksiyonlarını kullanmaktır. Sıra ve boyuttaki (I) konumdaki (POS) bir jeton için konumsal kodlama aşağıdaki gibi hesaplanır:
Eşit boyutlar için ((i = 2k)):
(Pe _ {(pos, 2k)} = \ sin \ sol (\ frac {pos} {10000^{\ frac {2k} {d_ {model}}} \ sağ))
Garip boyutlar için ((i = 2k + 1)):
(Pe _ {(pos, 2k+1)} = \ cos \ sol (\ frac {pos} {10000^{\ frac {2k} {d_ {model}}}} \ right))
Burada, (d_ {model}), modelin yerleştirmelerinin boyutudur. Bu yaklaşımın birkaç avantajı vardır. İlk olarak, modelin jetonlar arasındaki göreceli pozisyonları öğrenmesine izin verir. Örneğin, iki jetonun konumsal kodlamaları arasındaki fark, sıradaki mutlak pozisyonlarına değil, sadece göreceli konumlarına bağlıdır. İkincisi, hesaplama açısından verimlidir ve keyfi uzunluk dizilerini işleyebilir.
Peki, transformatör bu konumsal kodlamaları nasıl kullanıyor? Eh, konumsal kodlamalar üretildikten sonra, jeton eklemelerine bilge bir unsur eklenir. Bu nedenle, (E_ {POS}), (POS) ve (T_ {POS}) jetonun konumsal kodlaması ise, jeton gömme, bu belirteç için transformatörün kodlayıcı veya kod çözücü katmanına giriş ise = t_ {pos}+e_ {pos}).
Konumsal bilgiye sahip giriş transformatöre beslendikten sonra, kendi kendine dikkat mekanizması çalışmaya başlayabilir. Kendi kendine dikkat mekanizması, modelin her bir jetonu işlerken sıradaki farklı jetonların önemini tartmasına izin verir. Konumsal kodlamalarla, model artık sadece jetonların anlamsal anlamını değil, aynı zamanda sıradaki konumlarını da dikkate alabilir.
Diyelim ki bir metin çevirisi görevi üzerinde çalıştığınızı. Konumsal kodlamalar olmadan, model bir cümledeki kelimelerin doğru sırasını anlamak için mücadele edebilir. Örneğin, İngilizce'de "Köpek Kediyi Kovalar" cümlesi "Kedi Köpeği Kovalar" dan farklı bir anlama sahiptir. Konumsal kodlamalar, modelin bu iki farklı dizi arasında ayrım yapmasına ve daha doğru çeviriler üretmesine yardımcı olur.
Elektrik transformatör işinde, çeşitli ihtiyaçları karşılamak için farklı transformatör türleriyle de ilgileniyoruz. Örneğin,167 KVA Telefon Kutup Transformatörü. Bu tip transformatör, telefon direklerine monte edilecek şekilde tasarlanmıştır ve belirli düşük voltaj dağıtım uygulamaları için uygundur.
Biz de sunuyoruz20kV Üç Faz Yağı - Dallı Dağıtım Transformatörleri. Bu transformatörler üç fazlı güç sistemlerinde kullanılır ve daha iyi yalıtım ve soğutma için yağa daldırılır. Ve daha düşük voltaj derecesine sahip bir şey arıyorsanız,10kv yağı - daldırılmış dağıtım transformatörleriharika bir seçenektir. Yerel dağıtım ağlarında yaygın olarak kullanılmaktadır.
Şimdi, Transformers için pazardaysanız, ister makine öğrenimi araştırmanız ister elektrik altyapınız için olsun, yardımcı olmak için buradayız. Aralarından seçim yapabileceğiniz çok çeşitli yüksek kaliteli transformatörlere sahibiz. Uzman ekibimiz, özel gereksinimleriniz için doğru transformatörü seçmenize yardımcı olabilir. Bir konsültasyon için ulaşmak için tereddüt etmeyin ve ihtiyaçlarınız hakkında bir konuşma başlatalım. En iyi çözümleri bulmak için sizinle birlikte çalışmaya hazırız.
Referanslar:
- Vaswani, A., Shazer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, An, ... & Polosukhin, I. (2017). İhtiyacınız olan tek şey dikkat. Sinirsel bilgi işleme sistemlerindeki gelişmeler,