TWI381324B - 利用精細資料之行為定向方法 - Google Patents

Description

利用精細資料之行為定向方法

本發明係與定向之領域有關，尤其係與行為定向之精細資料有關。

網際網路係提供一種商業機制以向消費者提供大量的產品及服務。網際網路的入口網站係向使用者提供一進入網路大量資源的入口及引導。一般而言，一網際網路入口係提供一定範圍之搜尋、電子郵件、新聞、消費、聊天、地圖、財經、娛樂及其他網際網路服務及內容。Yahoo，也就是本案的申請人，即是入口網站的一典型代表。

當一使用者造訪網際網路上某些包含網際網路入口的位置(例如網站)時，使用者鍵入線上活動形式之資訊。這樣的資訊可以經過紀錄及分析，以決定使用者的行為模式及興趣。依序地，這些行為模式及興趣可以用來在網際網路上定向使用者以提供更有意義及更豐富的體驗、例如一網際網路入口網站。例如，如果可以決定使用者對於某些產品或服務的興趣，關於這些產品或服務的廣告將可以提供給該使用者。一種提供廣告服務的行為定向系統不僅有利於向一鎖定的大眾提供訊息之廣告業主，而且也有利於使用者在該使用者感興趣之領域中接收到廣告。

目前，透過電腦網路、例如網際網路傳送之廣告也已經隨著藉由其他媒體、例如電視、廣播或印刷所傳送 之廣告一樣被廣泛地使用。尤其是，透過網際網路所傳遞之線上廣告向商家提供了一機制，可以向線上使用者提供大量產品及服務的廣告。在商業策略方面，不同的線上廣告根據一被廣告所鎖定之使用者而具有不同的目標性。

通常，一廣告業者會執行一廣告活動，其一系列的廣告將會在連續在一段預定的時間內，透過網際網路進行傳播。在廣告活動中的廣告可以是典型的加深品牌印象之廣告，但也可以包含直接回應或購買的廣告。

一般來說，行為定向(BT)應用於網際網路上係指定向活動，例如廣告，一根據線上的行為歷史而對使用者的定向活動。本發明的具體實施例，係聚焦於包含許多使用者活動或事件的行為資料，而且這些資料係透過跨網址之網路的搜尋並且由不同的網頁伺服器所紀錄。這些與一使用者有關的活動，係包含但不限定於是：網頁瀏覽、在該網頁上點擊一連結、在該網頁上點擊一廣告、例如使用一搜尋引擎發出一搜尋詢問、填寫一表格、發表一段文字、評價一網頁及/或產品以及例如執行一買賣等。這裡所提到的每一種活動係被視為一精細事件，且一般而言，使用者在一定時間內會有數百萬計的這樣的精細事件。

行為定向模式是預測的模式，係為了辨識及/或排序一組定向的使用者以向其呈現一特定的廣告或一廣告群組之目的而建立。這些行為的定向模式利用來自歷史的使用者資料中的自動學習的.使用者模式來預測未來事件的反應。某些最想要被預測的事件反應包含未來可 能被點擊的廣告、網頁瀏覽及/或廣告業者轉變等。由於行為資料的大量性、廣延性及稀疏性，精細事件照慣例會被歸類為特殊的商業分類。商業的分類通常是在預定的分類法則，且預測的模式隨後建立在該等分類蒐集資料上。

分類事件的一具體實施例，係包含執行前述一特定分類相關之精細事件其中之一，例如在「汽車」分類中檢視一網頁。另一分類事件的具體實施例包含在「財政/抵押」分類中送出一搜尋詢問。其他額外的分類事件也可能在不脫離本發明之精神或範疇下被使用。

這樣的分類數目係遠小於不同的可能事件的總數。因此，分類簡化了事件在每一類別內的管理及/或事件列表。然而，這樣的分類方法的一個缺點在於重要的資訊隨著分類過程中而不見。例如，事件分類成任意的商業類別必然會衝擊一些個別事件使其進入較大的分類程度時，因而造成資料辨識度的損失。因為分類別設計本身係較有關於商業動機本身而不是問題動機本身，因此他們具有使資訊失去的可能性。除此之外，分類通常必須以自動的型態來執行，因而可能存在有錯誤分類或根本沒有全部分類妥當之風險，因上訴情況將很不願預見地導致一個較低或沒信賴基礎的分類。

另一個缺點在於比較困難將新事件類型包含至原分類機制中，因為每一種新的數據流都必須採用適當的分類方法，但如果這樣做通常是會遭遇到困難且費時的。

綜合以上所述，本發明的具體實施例，係包含一種建立預測性行為定向模式的方法。該模式係用以辨識及/或排序一組目標使用者以用於定向之目的，例如，一特定廣告或廣告子集之呈現。較佳者，該模式係奠基於精細事件。有助於，藉由使用精細事件所產生之模式並不使用任何預先建立的商業模式來分類這樣的事件。特定具體實施例中，係直接從精細事件建立模式，或者是，精細事件組係先經過分組，且隨後由該分組後的精細事件建立上述模式，或者藉由使用精細事件及精細事件之分組的組合來建立上述模式。某些具體實施例，係自動地以問題導向模式及/或透過使用來自歷史資料中所學習的知識來分類精細事件。較佳者，這些具體實施例並不依賴於該可任意取得的一預先定義的商業類別或也不相關於將每一種事件類型都分類成任何特定分類組別。除此之外，這些具體實施例，係一般應用於任何運用歷史行為資料的任何類型事件之預測，例如，預測與事件有關的廣告，例如廣告定向。一種定向方法，其係用以接收數個精細事件，並且預先處理所接收的精細事件，因而產生預先處理的資料，以幫助奠基於該精細資料之一模式的建立。該方法藉由使用預先處理的資料產生一預測的模式。該預測模式係用以判定一使用者動作的一可能性。該方法訓練該預測模式。

一種定向系統，包含精細事件、用以接收該精細事件之預先處理器、一模式產生器以及一模式。該預先處理器具有一個或多個模組，以用於刪減、匯集、群組化及/或過濾至少其中之一。該模式產生器係用以建立奠基於該精細事件之一模式，且該模式係用以判定一使用者 動作之一可能性。該系統在某些具體實施例中進一步包含數個使用者、一種從數個使用者中選出一特定群組之使用者的選擇器、一訓練的模式以及一評分模組。該訓練的模式係用以接收使用者並且提供一指示每一使用者與上述使用者動作之間關係的一標準。該評分模組係用以組織與該組使用者中的每一使用者相關聯的一組標準。

因此，某些具體實施例從幾個使用者中選出一個使用者、並套用該預測的模式到所選定的使用者、並且利用該預測的模式為該使用者進行評分標記。藉由使用評分標記，使用者能更方便地與其他使用者編排等級以產生一組按等級排列的使用者。而從按等級區分的該組使用者中，一按等級區分之使用者的一次群組更有利與不同使用者區別，例如藉由一附加之定向步驟。在一特定具體實施例中，該預先處理係包含根據資料類型進行群組化。該資料類型較佳者係包含：搜尋、搜尋點擊、贊助的搜尋點擊、頁面檢視、廣告檢視及廣告點擊等至少其中之一。該群組化保留一預測目標的資訊，且一般來說包含一自動化的程序。或者是，與該群組化相關聯，乃是該預先處理更選擇性地包含在模式化之前，其刪減、匯集及/或過濾已接收的精細事件。某些執行將使用者動作區分成一個或多個分類以形成基於所接收之精細事件的一分佈。例如，某些執行係分類成二元分佈。

較佳者，上述的精細事件係為：檢視一網頁、點擊該網頁中的一連結、點擊該網頁中的一廣告、發出一搜尋詢問(例如利用一搜尋引擎)、填寫一表格、發表一 段文字、評價一網頁、評價一產品、及/或完成一交易等至少其中之一項或數項。當該精細事件係牽涉到搜尋時，例如，本發明的具體實施例，係追蹤一個或多個搜尋結果的一些點擊。當該精細事件係包含網頁檢視時，一些網頁檢視將被計算，其中被檢視的網頁乃是一群組網頁內的每一網頁的。某些具體實施例，係使用預測模式來預測某一預定的時間週期內，使用者廣告點擊及/或廣告檢視之數字。該預測模式使用一個或多個支援向量機器、貝式(Bayesian)類型機器、一最大熵值(entropy)網路、一邏輯回歸機器以及一線性回歸模式。較佳者，該預測模式具有經由訓練來判定為每一精細事件該加權的權重。一特定的具體實施例使用具有一精細事件計數之線性組合之參數的泊松(Poisson)類型模式。該事件計數基本上係儲存及/或從行為歷程中回復。

本發明的新穎特徵將會由如下的申請專利範圍加以說明。然而，為了說明之目的，本發明的具體實施例將結合圖式加以詳細說明。

下面的說明中，許多的具體實施例係為解釋之目的被提出。然而，熟悉本領域技藝者必須理解本發明，未必只能利用這些具體實施例才能實施。在其他例子中，一些熟知的結構及裝置將會以方塊圖之形式來表示，以更清楚呈現本發明之具體特徵。

構想與執行

如前所述，行為定向之目標係辨識及/或排序一組目 標使用者之定向目的，例如一特定廣告或廣告子集之呈現。行為定向之問題係以不同的方法區分或重新構想。其中一個有用的構想係以許多精細事件與一合意結果之間的關係作為其特徵。該關係一般來說乃使用一個或多個模式來表示。一個特別有用的合意結果之模式係與廣告點擊的精細事件有關。更詳細來說，該特定的構想尋求去預測一使用者對於一或多個使用者事件紀錄中所給出的廣告或廣告組的點擊偏好。另一個因素係額外的包含，例如，一使用者的點擊偏好於一特定時間內的量測。同樣的，該事件紀錄資料係為一段選定的時間點內所蒐集的資料。

例如，在一廣告點擊的特定合意結果之執行上，P_(U,A)係代表使用者U對於一給定廣告或廣告組A之點擊偏好。在這個執行中，Λ係與某一參數預測模式f相關的一組參數。因此，為了方便，該點擊偏好P_(U,A)係以U,A及Λ來表示：P_(U,A)=f(U,A,Λ)，其中，U係由與該使用者有關之該組事件來代表，A係為廣告或廣告群組之辨識器，而f(.)則是一映像(mapping)函數。該組參數Λ則是從該歷史資料中透過最佳化一適當的標準來估算。

熟悉本領域技藝者應理解前述係說明一與特定廣告之點擊偏好有關之特定執行，且應理解前述P_(U,A)之構想係可替代性地表示使用者U對於不同合意結果的關係。除此之外，在給定大量的精細事件包含，例如，瀏覽、存取及/或下載數以百萬計之網頁、數以千萬計的搜 尋詢問及/或關鍵字、以及數以百萬計之廣告之情況下，某些具體實施例執行特定的有利步驟。

例如，特定的具體實施例預先執行這許多精細事件以產生一限定數目之特徵，以用於一模式化階段。這些具體實施例中某些實施例隨後執行一有效的模式化技術，其中透過學習來自大量歷史資料中的參數並評價新的使用者的該模式化技術得以最佳化。在這些執行中，模式訓練及使用者評價較佳者係隨著訓練的例子以及輸入特徵的數目而線性調整。某些具體實施例包含執行整合下列三個內容其中之一個或多個：(1)預先執行精細事件，(2)模式化、學習模式參數、及/或訓練，以及(3)根據所學習或訓練的模式評價及/或排序使用者。這些方法的某些部分將再詳細說明如下，並且適當的參照如前所述之點擊偏好的實施例來加以說明。

因此，第二圖係表示模式產生及/或訓練的一程序200。在這個圖式中，該程序200開始於蒐集及/或接收資料的步驟210。較佳者，該資料包含許多如前所述之精細事件。

一旦資料在步驟210中蒐集以後，該步驟200轉換到步驟220，其中預先處理程序將被執行。由於所產生的精細事件的容量，某些執行的預先處理程序對於有效及/或實際的應用是很關鍵的。

精細事件之預先處理程序

更詳細來說，本發明的具體實施例，有利於實施下列預先處理步驟其中之一個或多個，以減少模式化階段 之前的特徵數目，這些步驟包括：(1)稀疏的精細事件之修剪，(2)事件時間上的聚集，及/或(3)群組化。

(1)稀疏的精細事件之修剪。為了減少模式化的事件數目，某些執行有利於刪除「雜質」或只發生於少於m個使用者之事件，其中m是有利於使用者定義、事先定義及/或選擇的。

(2)事件時間上的聚集。特定的具體實施例有利於維持每一事件在一預定的訓練時間內的總計數。該總計數可以選擇成是一個時間加權的集合體，其允許向下修正權重，或降低某一事件，例如過時或較舊事件，的權重值。

(3)精細事件群組化。較佳者，針對每一類型之事件，這些事件會根據事件之訊息內容而群組化成一有幫助的群組數目K，以利於定向預測。一具有與該定向有關之事件E由經驗之目標分佈由所有具該事件E的使用者中獲得。

關於群組化，一事件E的實施例，例如發出如「數位相機」之搜尋用詞以進行搜尋詢問。該事件資訊內容的一具體實施例係包含對一廣告分類，例如「財經」分類，的點擊次數。一實施例的一取樣經驗之目標分佈隨後具有一組分佈值，例如，未點擊50%、點擊一次30%、點擊二次10%以及點擊四次10%。熟悉本領域技藝者當可理解這裡所使用的這些數值只是為說明之目的而為之，應當進一步理解額外的分佈值也能使用。較佳者，兩個這樣的分佈之間的距離將由KL差異度(Kullback-Leibler divergence)來量測。

群組事件用這樣的方式更容易保存與該事件有關之定向的預測資訊。該參數k較有利於為使用者定義、預先定義及/或選擇的。在群組化之後，每一群組產生一輸入特徵，該特徵係聚集於該群組內的所有精細事件。除了廣延性的減少外，亦有其他優勢來群組化該精細事件。例如，新的事件有利於分配到存在的群組。此外，群組將隨意的自動更新及/或遞增。因此，這些執行係以一資訊保留的方式聚集精細事件。

某些據替實施例在步驟220中執行額外的執行功能，或者是結合前述之修剪、聚集及/或群組化功能來執行。例如，額外的過濾係可任意的執行以進一步預先處理該精細事件資料到更適合模式化的預先處理資料。

一旦預先處理程序執行於步驟220時，一個或多個模式將在步驟230中建立。如前所述，該預先處理階段較佳者更在步驟230中幫助模式建立。模式產生的特殊例子將進一步說明如下。例如，下面的實施例說明與一選定類型的精細事件有關的一特定模式的建立。更詳細來說，下面的具體實施例描述藉由使用廣義的線性模式來模式化點擊偏好。因此，在本實施例中，在步驟220之預先處理程序之後，每一使用者U係由一組輸入特徵{x}來表示，其基數細小於預先處理之前，但仍然相當大。一種處理高範圍資料的自然且有效的方法係使用廣義的線性模式，其中該模式參數是輸入特徵的線性組合。

隨後，在這個具體實施例中，兩個模式化方法將被提供。第一個方法係為將問題系統化為一個分類問題。 在這個分類問題中，某些執行學習一線性模式。這些執行的某些部分的線性模式隨後係有利於應用到根據預測之行為分辨一組使用者，例如區分點擊的使用者與未點擊的使用者。在這個例子中，定向係為二元的，且由兩個點擊分類所表示，一個分類係屬於點擊的使用者，而另一分類則是屬於未點擊之使用者。該定向隨後由應用任何標準的線性機器學習模式到歷史資料，或者換句話說藉由訓練而展開學習。如同熟悉本領域技藝者所能理解，線性學習機器包括支持向量機器(SVM)，貝葉斯機器(Naive Bayes machines)、最大熵值法、邏輯回歸及/或線性回歸模式。

關於支持向量機器、該邏輯回歸及線性回歸模式，其參數係為典型的一組線性權重(w_(x,A))，其一為每一輸入特徵x及每一廣告或廣告組A。

關於貝葉斯及最大熵值模式，有兩組典型的可能性權重用於每一廣告或廣告組A：{P(x|A，點擊者)}and{P(x|A，未點擊者)}較佳者，每一組可能性權重係分別隨著最大可能性及最大熵值原則加以學習。

第二個模式化方法係針對點選率(CTR)或直接廣告點擊次數學習一線性模式。廣告點擊偏好通常係由點選率(廣告點擊次數/廣告瀏覽次數)所量測，其為一個比率，因此在輸入特徵中不為線性。例如，一瀏覽更多網頁的使用者不必然具有更高的點選率。因此，廣告點擊次數及廣告瀏覽次數更有利者應分別模式化。此外， 不同的，這些參數的每一個更合理的模式化為輸入特徵的線性組合。

因此，某些執行係使用具有泊松(Posson)分佈的廣義線性模式於廣告點擊次數的計量。因此，從使用者U中看見一特定廣告或廣告組A的n次點擊的可能性係可定義為：

其中，係為使用者U由輸入特徵{x}及廣告或廣告組A所表示之分佈的期待值或平均。該權重{w_(x,A)}係為該組由歷史資料所估算的真正模式參數，期較佳者係使用可能性方法所估算： 廣告瀏覽的次數係以相同的方法來模式化，或者根據歷史直接模式化，例如，由過去1天中的廣告瀏覽次數的最近權重平均，其中1較佳者係為預先決定及/或由經驗法則之數據來選擇。

接下來，不管步驟230所建立的特定模式為何，該模式較佳者係在步驟240進行訓練。針對者些使用權重的系統，較佳者訓練造成使該權重之調整，以最佳化該模式的性能。隨後，在步驟240之後，該程序200就完成了。

在特定的例子中，預測模式係根據一連結之點擊及/或一網頁之瀏覽而執行，而這些點擊及/或瀏覽係值得 作出決定的。例如，某些執行二元化該資料及/或標定1及0。針對點擊者對未點擊者之決定，其中二元數1係任意指定給點擊者，而0則是指定給未點擊者。

如前所述所建立的模式一般而言包含一訓練階段，當所建立的模式較佳者係用於不同的評價階段。區分點擊者之分類較佳者係在訓練階段建立。且較佳者，針對不同的資料類型建立不同的模式。例如一模式及/或模式類型係建立來預測一使用者預期會產生多少點擊。另一模式係建立來模式化及/或預測一使用者預期會對一特定之廣告或廣告組產生多少次瀏覽。

評價及排序使用者

一旦一行為定向模式利用前述不同的方式來建構及/或訓練，該模式較有利者係應用於不同的方法。第三圖係表示一種評價及/或排序使用者之程序300。如該圖中所示，該程序300開始於步驟310，其中一個或多個使用者係被選出來加以評價。在步驟320中，一模式係應用於所選擇的使用者。某些具體實施例使用第二圖所示的訓練模式。隨後，該等使用者在步驟330使用該模式來進行評價。

在評價階段，一使用者係在一預定時間週期內被評價。在某些例子中，該評價的時間週期係為持續的、不限制的及/或無限期的。在這些例子中，隨著時間衰減的事件計數及/或隨著時間衰減的評價係較佳地被使用。此外，無論何時，該時間週期可以回到該時間加權的精細事件計數開始的時候。再特定的具體實施例中，這樣的計數係以日為基礎而逐日更新。

某些執行係利用對每一類型之事件的一個計數而追蹤事件，例如，搜尋次數、網頁瀏覽次數、廣告瀏覽次數及/或廣告點擊次數。這些執行計數、追蹤及/或儲存事件發生的數量。因此，對於搜尋而言，這些具體實施例，係儲存代表執行特定搜尋項目之搜尋的次數。因此，這類型的執行係有利於蒐集高精細程度的資料。例如，考慮一精細等級的搜尋，針對一特定詢問項目之搜尋乃係被追蹤。該計數較佳者係紀錄每一使用者一段時間，例如一個月，以提供每一使用者一組可比較的評價。

而且在評價階段，某些執行輸出一連續的評價，以隨意地用來排序使用者。某些執行更根據額外的定向活動之排序來定向頂端的使用者。例如，當合意的結果或尺度包含點選率(CTR)時，某些具體實施例根據該點選率辨識及/或選擇該前面10%，或另一例子中，前面1%的使用者。一般而言，在以點選率高之定向使用者以及以定向之使用者達到之數目之間存在有換算方式。在商業上，較有利者係提供一定向選擇來選擇較大的點選率及/或到達率，並因應每一類型之定向加以評價。

對於前述所提到的二元定向的例子中(1代表點擊者，而0表示未點擊者)，某些具體實施例，係簡單使用一個或多個學習的線性模式來評價每一使用者，因而以作為輸入特徵的一線性組合。例如：

而針對貝葉斯及最大熵值模式，較有利的使用者評價方式則是使用： 或者是在更實際的執行中，使用：

而針對泊松(Posson)類型之模式，在廣告點擊的預測次數及廣告瀏覽之次數間的比例，係更適宜地用來評價每一使用者。因此，對於每個使用者U及每一廣告或廣告群組A，所預測的點選率(CTR)係計算如下： 其中，分子係表示廣告點擊次數之一預測值，而分母部分則是廣告瀏覽次數之一預測值。對於罕見的使用者，這個比例通常是不合意地不穩定且不精確。因此，估算值在不同的實施例中較佳者係應替換成： 其中，及分別係為點擊及瀏覽之前的計數。這些先前的計數隨後被選來達成最佳的使用者排序。

不管是特定的評價方法及/或在步驟330所使用的評價方案，所得到的評價隨後都會用於步驟340。例如，某些具體實施例，係分類減少的順序以評價使用者及/或為其他附加程序辨識特定的使用者。隨後，在步驟350，該步驟決定程序300是否繼續。假如程序300應 該繼續，則其做為現實時間程序的的一部分，例如，該程序300將回到步驟310。否則，該程序300則應結束。

第四圖及第五圖係表示根據前述程序200及300之系統執行400及500。如第四圖所示，該系統400係包含多個由系統400所蒐集及/或儲存的精細事件402。因此，某些系統包含數據儲存，係用於監控、蒐集、儲存及/或回復該等精細事件402。如前所述，該等精細事件一般而言是多數的且包含這些使用者活動，例如網頁瀏覽、在網頁中點擊一連結、在網頁中點擊一廣告、使用一搜尋引擎發出一搜尋詢問、填入表單、發表、評價一網頁、評價一產品及/或執行一交易。

不同的精細事件402係由預先處理器404所接收，該處理器執行如前所述的一種或數種預先執行功能，例如資料的刪減、聚集及/或群組化等。某些執行進一步具有額外的過濾功能，以預先處理所述的精細資料，以作為模式化的預先處理資料。該預先處理器404較佳者係包含一個或多個模組406及408，以執行不同的任務。

例如，第六圖係概念性地表示某些具體實施例所執行的群組化。在第六圖中，一系統600執行一模組606以群組化與特定定向相關的精細事件資料。如前所述，該定向係與不同的使用者行為有關，例如，與特定項目有關之搜尋、瀏覽及/或點擊某些網頁、搜尋結果及/或廣告。除此之外，該群組化較佳者係在於不需要及/或獨立於分類及/或分類化下發生。因此，無論特定的定向為何，該實施例之群組622及624係有利於維持與該群組化之事件有關的資訊。

回到如第四圖所示之更一般性的執行，該預先處理器404向一模式產生器410輸出根據精細事件之特徵資料形式之預先處理資料。該模式產生器410係用來產生不同類型之模式，如前所述。例如，某些模式產生器410包含一特徵空間，已用於模式建立及/或訓練。較佳者，該系統輸出一訓練模式412，以用於評價一個或多個使用者。對於一以上使用係將配合第五圖進一步詳細說明。

第五圖係說明一個用以評價及/或排序一個或多個使用者之系統500。如該圖中所示，該系統500係包含由一選擇器511為系統500所選出的一個或多個使用者。例如，該選擇器511的一個特定執行，係根據群組成員或人員統計上的資訊選擇使用者。隨著精細事件，產生精細事件的使用者一般而言會是為數眾多的。然而，這些使用者較佳者每一個係具有一獨特的辨識器以利追蹤。該選擇器511使用該獨特的辨識器輸出所選擇的使用者到一模式引擎512，該模式引擎具有一個或多個建立及/或訓練的模式。一般來說，這些模式係訓練來指示一合意結果的關係。某些具體實施例，係使用如前述之系統或方法所建立及/或訓練之模式。

某些具體實施例中之模式引擎512係輸出一評價模組514，以有利於追蹤這幾個使用者之評價。某些具體實施例更進一步對所評價的使用者彼此相互排序，以進一步允許關於定向之決定。例如，在一關於點擊一特定廣告之偏好的執行中，該評價模組514係辨識較高偏好的使用者以進行定向。這些使用者系選擇性的通過系統 500的其他元件或其他系統，以進一步進行其他定向。

結合定向系統之使用

如前所述，一行為定向系統具有一應用程式以辨識線上使用者之興趣與行為，以利一個或多個定向之目標。本發明的具體實施例，係有利於整合到這樣的一個使用者定向系統中。第一圖係表示說明一廣義行為定向系統100之方塊圖。一般來說，該行為定向系統100，係根據使用者的線上活動描繪出網際網路使用者的興趣與行為。如第一圖所示，使用者輸出110係由行為定向處理120所接收。在一具體實施例中，使用者輸入包含一個或多個事件，這些事件通常是高度精細及/或眾多的。

該行為定向處理120較佳者係執行如前所述的一個或多個執行，並且選擇性的輸出到一額外的定向系統元件。在第一圖所示的具體實施例中，該行為定向系統100係輸出到直接回應廣告元件130、品牌體認廣告元件150、購買意圖活動元件180及/或內部公司事業體市場元件190。

網路環境

第七圖係表示一種操作於行為定向系統之某些具體實施例其一之網路環境700實施例。該網路環境700，係包含一客戶系統720連接到一網路730，例如網際網路、內部網路、外部網路、虛擬私人網路、非TCP/IP協定之網路及任何區域網路或無線網路或類似的網路系統等，以及伺服器系統740₁到740_N。一伺服器系統 包括一單一伺服器電腦，或者是，由多個伺服器電腦所替代。該客戶系統720係用來與例如任一伺服器740₁到740_N進行通訊，以請求及接收基礎內容及，例如，網頁形式之額外內容。

該客戶系統720包含一桌上型個人電腦、工作站、膝上型電腦、PDA、電話或任何以無線應用軟體協定(WAP)驅動之裝置，或者是任何能夠直接或間接與一網路進行通訊之任何其他裝置。該客戶系統720一般而言係執行一網頁瀏覽程式，以允許該客戶系統之一使用者去請求及接收來自網路730上之該等伺服器系統740₁到740_N之內容。一般而言，該客戶系統係包含一個或多個使用者介面裝置722，例如一鍵盤、一滑鼠、一軌跡球、一觸控螢幕、一操控筆或類似裝置，以和一顯示器上(例如監視器、LCD顯示器等)之一網頁瀏覽器之一圖形使用者介面(GUI)互動。

在某些具體實施例中，該客戶系統720及/或該系統伺服器740₁到740_N係用來執行如前所述之方法。某些具體實施利之方法係以配置的軟體或硬體方式來執行，以最佳化地呈現給使用者額外內容之選擇。

第八圖係顯示一定向系統800之一概念性圖形。該定向系統800包含一客戶系統805、一基礎內容伺服器810以包含基礎內容、一額外內容伺服器815以包含額外內容、一使用者檔案之資料庫820、以及行為定向伺服器835。該行為定向伺服器835包含一最佳化模組838，用以接收事件資訊。該定向系統800係根據使用者檔案來選擇要傳送給使用者之額外內容。該客戶系統 805係用來接收基礎及額外內容並且向使用者呈現該基礎及額外內容(例如以一公開網頁形式)。最佳化系統的不同部分可能存在於第七圖之伺服器740₁到740_N其中之一個或數個及/或一個或多個客戶中，例如用戶系統720。

使用者檔案資料庫820係為多個使用者/客戶系統儲存使用者檔案，每一使用者檔案具有一獨特的使用者識別號碼，以指定至使用者所使用的特定的客戶系統805。上述的使用者識別號碼可以儲存於，例如，使用者所使用的客戶系統805上。當一使用者請求來自基礎內容伺服器810之內容時，該定向伺服器835選擇性地使用使用者識別號碼自使用者檔案資料庫820中擷取特定的使用者檔案。

該定向系統可以由硬體或軟體加以執行。關於軟體執行，該定向系統係為包含多個電腦執行指令，以執行於一通常功能之電腦系統。在上傳至一般用途之電腦系統之前，該定向系統軟體可能以編碼資訊存在於一可讀取式電腦媒體中，例如一軟式磁碟、磁帶和唯讀記憶光碟(CD-ROM)。

優勢

前面所述的具體實施例係與行為定向之領域有關，其係與Joshua Koran等人的於2006年3月29日所申請的美國專利申請案11/394,343有關，該文獻也列為本案之參考文件。特定的具體實施例有利於減少模式化之不同程序的限制。如前所述，傳統的定向系統係強烈與模式化前的分類程序有關，其造成重大資訊遺失的不 與模式化前的分類程序有關，其造成重大資訊遺失的不良結果。

使用者定向資料傾向是高度精細的，係具有多個輸入特徵且一般來說是數以百萬計的輸入及事件。相反的，分類程序只與少數選擇的分類有關。以一搜尋型態之使用者行為事件為例，許多搜尋詢問並不會簡單恰好地貼近分類。因此，在某些估計上，至少40%的搜尋詢問無法分類，因此與這些事件相關的資訊將會不願樂見地漏失。第九圖係表示分類表的一實施例。雖然第九圖包含一些分類，但仍有許多額外的分類可以被執行，熟悉本領域技藝者當能理解在這些分類中限制精細資料的不方便性。

因此，某些具體實施例使用處理高範圍輸入的有效模式系統，例如數百萬計之輸入。這些具體實施例有利於預先處理許多精細事件，而不需要進行分類。預先處理程序的一個類型，係應用群組化計數到精細特徵中，而不是將特徵分類進入固定的分類法。相對於固定的分類項，該預先處理程序之群組化步驟係有利於維持每一種輸入特徵。例如，群組化係根據一目標及/或根據該目標的預測力量聚集搜尋詢問。應用群組化程序的具體實施例能夠根據精細的使用者行為事件之變異而排序使用者。例如，某些具體實施例辨識點擊者及未點擊者，而某些具體實施利則是根據點擊之次數來排序使用者。

對於搜尋的使用者事件，每一搜尋係使用一特定的詢問表示一精細事件，而這些實施例有利於量測詢問之定向分佈，以發現該分佈中的相似性。根據定向分佈。 前面所述的二元實施例中，較佳者該點擊者及未點擊者之可能性係可決定，而在非二元的實施例中，較佳者系所表現出來的點擊次數N的可能性係被決定。

在前面所提的搜尋點擊的實施例中，群組化係執行於搜尋資料類型。然而，其他具體實施例，係在其他資料類型中執行群組化程序。例如，當資料類型包含網頁時，瀏覽網頁的精細事件較有利者係被群組化。相同的，當資料類型包含線上廣告時，廣告瀏覽及/或點擊較佳者係經群組化成感興趣的特定廣告。

前面所述的具體實施例較有利者係透過群組化保留及/或最大化定向的最大預測能力。這些具體實施例，係在整合行為定向之預測能力與保留許多精細事件而不是不必要地捨棄事件且該捨棄之事件與潛在性有用資料相關連，此兩方面具有許多優勢。因此，替代的具體實施例，係採用根據一使用者、一廣告及/或廣告群組之模式。因為與每一使用者有關的精細事件被足夠地蒐集，某些具體實施可為每一使用者建立一更能代表該使用者行為之模式。

在預先處理程序階段，某些執行係實施其他除了群組化以外的功能。例如，某些執行也會實施許多精細事件資料的過濾程序。例如，在搜尋的實施例中，某些具體實施例係過濾掉少於一門檻值的搜尋，例如一個月內少於三次的搜尋。這些低頻率之事件較佳者係在模式化之前加以濾除。

由於使用者產生不同的精細事件，他們被映射到一預測的模式中。較佳者，該模式包含一訓練階段及一評 價階段。在每一使用者的評價階段，某些具體實施例係，計算一選定的資料類型中的一些精細事件的發生。例如，替代的具體實施例係追蹤及/或紀錄一些特定搜尋詢問之搜尋、一特定網頁的瀏覽次數、一些廣告瀏覽之次數及/或一選定廣告之廣告點擊之次數。因此，這些資料將會以高精細程度加以紀錄，而有利於維持事件資訊的大部分或全部的資訊。以搜尋資料類型的例子為例，在精細程度下，某些具體實施例係為一特定搜尋詢問紀錄許多搜尋。一般而言，針對每一使用者之計數係在一週期期間內，例如一個月內。這些具體實施例較佳者係不依靠分類細項或分類程序，因而減輕一般而言為大量資料組模式化的負擔，其中資料組的資料習慣上為精細資料。這些具體實施例因此產生更精確的預測模式。

傳統上，每一資料類型需要屬於自己的分類。如前所述，這些資料類型一般而言係包括：搜尋、搜尋點擊例如每一搜尋後的點擊次數、贊助的搜尋點擊、網頁瀏覽、廣告瀏覽及廣告點擊。除此之外，當資料發生於新區域時，新的分類機器必須為每一種來自新區域的資料類型重新建立。而如前所述，這些分類可能是為數眾多且變化多端。例如，Yahoo在眾多分類中具有這樣的分類，如汽車、財經、Yahoo群組等。然而，照慣例，本發明的具體實施例將精細事件直接列入考慮，而不需要透過分類，而使得這些具體實施例能夠使用相對於習知技藝中更簡單的架構。儘管本發明係與多個特定的詳細實施例來加以說明，但熟悉本領域技藝者當理解本發明亦可能在不脫離本發 明之精神的情況下以其他具體實施例來實施。例如，如前所述的具體實施例通常係關於廣告點擊及/或點選率。然而，涵蓋行為活動及精細事件類型之範圍的定向也是可以預期的。因此，熟悉本領域技藝者當能理解本發明不當以前述之具體實施例說明為限，而應以如下所附之申請專利範圍來加以定義。

100‧‧‧行為定向系統

110‧‧‧使用者輸入

120‧‧‧行為定向處理

130‧‧‧直接回應廣告

150‧‧‧品牌體認廣告

170‧‧‧個人化

180‧‧‧購買意圖

190‧‧‧內部公司事業體市場

200‧‧‧模式產生/訓練程序

210‧‧‧蒐集/接收資料

220‧‧‧執行一或多個預先處理功能

230‧‧‧利用預先處理資料產生模式

240‧‧‧訓練模式

300‧‧‧評價/排序使用者程序

310‧‧‧挑選使用者

320‧‧‧應用一模式

330‧‧‧評價使用者

340‧‧‧排序/識別使用者

350‧‧‧是否繼續

400‧‧‧系統

402‧‧‧蒐集/儲存精細事件

404‧‧‧預先處理器

406‧‧‧群組化模組

408‧‧‧過濾模組

410‧‧‧模式產生器

412‧‧‧訓練模式

500‧‧‧系統

511‧‧‧選擇器

512‧‧‧模式引擎

514‧‧‧評價模組

600‧‧‧系統

604‧‧‧預先處理器

606‧‧‧群組化模組

608‧‧‧過濾模組

610‧‧‧模式產生器

612‧‧‧訓練模式

622、624‧‧‧群組

700‧‧‧網路環境

720‧‧‧客戶系統

730‧‧‧網路

740₁~740_N‧‧‧伺服器

800‧‧‧定向系統

805‧‧‧客戶系統

810‧‧‧基礎內容伺服器

815‧‧‧額外內容伺服器

820‧‧‧使用者檔案資料庫

835‧‧‧行為定向伺服器

838‧‧‧最佳化模組

第一圖係表示一廣義的行為定向系統。

第二圖係表示預測模式產生及訓練程序。

第三圖係表示評價及/或排序程序。

第四圖係表示一模式產生系統。

第五圖係表示一評價系統。

第六圖係表示某些具體實施例所執行之群組化。

第七圖係表示根據本發明之某些具體實施例的一網路環境。

第八圖係表示根據本發明之具體實施例之定向系統。

第九圖係表示分類表的一實施例。

100‧‧‧行為定向系統

110‧‧‧使用者輸入

120‧‧‧行為定向處理

130‧‧‧直接回應廣告

150‧‧‧品牌體認廣告

170‧‧‧個人化

180‧‧‧購買意圖

190‧‧‧內部公司事業體市場

Claims (18)

1. 一種電腦可實施之定向方法，其包含：經由一電腦接收多個精細事件，其中一精細事件包含一種類，其定義使用者與實體之間的一線上活動；經由一電腦預先處理所接收的精細事件，以決定定向預測之該精細事件之資訊內容量；經由一電腦產生預先處理之資料，以藉由基於該定向預測的資訊內容量將該些精細事件群組化為一定數目之群組，以幫助建立一基於該精細事件之模式；經由一電腦藉由使用該群組作為一特徵組以產生一預測模式，該預測模式用以決定一假設性使用者動作之一可能性，其中該預測模式包括假設性使用者動作之一權重；經由一電腦藉由微調該權重以最佳化該預測模式之性能來訓練該預測模式；經由一電腦從多個使用者中選擇一使用者；經由一電腦應用該預測模式到所選擇的使用者；以及經由一電腦利用該預測模式評價該使用者，其中係根據廣告點擊的一預測次數及一廣告瀏覽的一估算次數之間的一比例而評價該使用者。
2. 如申請專利範圍第1項所述之方法，其進一步包含：經由一電腦利用評價排序該使用者與其他使用者；經由一電腦產生一組排序的使用者；及經由一電腦為其他的定向步驟識別該排序使用者之一子群組。
3. 如申請專利範圍第1項所述之方法，其中該資料類型包 含下列至少其中之一：搜尋、搜尋點擊、贊助的搜尋點擊、網頁瀏覽、廣告瀏覽及廣告點擊。
4. 如申請專利範圍第1項所述之方法，其中該群組保留與一預測定向有關之資訊，其中該群組化包含一自動程序。
5. 如申請專利範圍第1項所述之方法，其中該預先處理進一步包含下列步驟至少其中之一：刪減所接收之精細事件，其中所述刪減包含消除發生次數低於一預定次數量之一精細事件；隨時間聚集該些精細事件，使得所述聚集產生各精細事件之一總計數；以及過濾所接收之精細事件，其中所述過濾包含移除未符合一預定條件之精細事件。
6. 如申請專利範圍第1項所述之方法，其進一步包含：將使用者動作分類成數個分類，該分類包含所接收的精細事件之分佈。
7. 如申請專利範圍第6項所述之方法，其中該分類包含一二元分佈。
8. 如申請專利範圍第1項所述之方法，其中該線上活動包含下列其中之一：瀏覽一網頁，在該網頁上點擊一連結，在該網頁上點及一廣告，發出一搜尋詢問，使用一搜尋引擎，填入一表格，發表、評價一網頁，評價一產品，以及執行一交易。
9. 如申請專利範圍第1項所述之方法，其中該線上活動包含搜尋、該方法進一步包含追蹤一些點擊的搜尋結果。
10. 如申請專利範圍第1項所述之方法，其中該線上活動包含網頁瀏覽，該方法包含對於一組網頁中的每一頁，去 計數一些網頁之瀏覽。
11. 如申請專利範圍第1項所述之方法，其進一步包含預測使用者在一預定的時間週期內廣告點擊及廣告瀏覽的次數。
12. 如申請專利範圍第1項所述之方法，其進一步包含一廣告群組，具有多個廣告。
13. 如申請專利範圍第1項所述之方法，其中該預測模式包含一或多個支持向量機器、一貝葉斯類型機器、一最大熵值網路、一邏輯回歸機器及一線性回歸模式。
14. 如申請專利範圍第1項所述之方法，其進一步包含使用一泊松(Poisson)類型模式，其具有一參數包含精細事件計數的一線性組合，該事件計數係在一行為歷史內。
15. 如申請專利範圍第1項所述之方法，其中該線上活動包含下列至少其中之一：搜尋點擊、贊助的搜尋點擊及廣告點擊，該方法進一步包含利用該預測模式預測該使用者之一點擊偏好。
16. 如申請專利範圍第1項所述之方法，其進一步包含根據來自一行為歷史的精細事件之一線性組合評價該使用者。
17. 如申請專利範圍第1項所述之方法，其進一步包含根據一點擊者之一估算可能性及一非點擊者之一估算可能性之間的比例評價該使用者。
18. 如申請專利範圍第17項所述之方法，其中該可能性係為個別特徵之分類狀態可能性的一乘積。